Training Without Orthogonalization, Inference With SVD: A Gradient Analysis of Rotation Representations
Fuente:
arXiv
Gespeichert in:
| 1. Verfasser: | Choy, Chris |
|---|---|
| Format: | Preprint |
| Veröffentlicht: |
2026
|
| Schlagworte: | |
| Online-Zugang: | |
| Tags: |
Tag hinzufügen
Keine Tags, Fügen Sie den ersten Tag hinzu!
|
Ähnliche Einträge
CORE-MTL: Rethinking Gradient Balancing via Causal Orthogonal Representations
von: Wu, Chengfeng, et al.
Veröffentlicht: (2026)
von: Wu, Chengfeng, et al.
Veröffentlicht: (2026)
tenSVD algorithm for compression
von: Gallo, Michele
Veröffentlicht: (2025)
von: Gallo, Michele
Veröffentlicht: (2025)
Compositional Generalization Requires Linear, Orthogonal Representations in Vision Embedding Models
von: Uselis, Arnas, et al.
Veröffentlicht: (2026)
von: Uselis, Arnas, et al.
Veröffentlicht: (2026)
Octopus: History-Free Gradient Orthogonalization for Continual Learning in Multimodal Large Language Models
von: Liu, Yuehao, et al.
Veröffentlicht: (2026)
von: Liu, Yuehao, et al.
Veröffentlicht: (2026)
FG-OrIU: Towards Better Forgetting via Feature-Gradient Orthogonality for Incremental Unlearning
von: Feng, Qian, et al.
Veröffentlicht: (2026)
von: Feng, Qian, et al.
Veröffentlicht: (2026)
No Train, all Gain: Self-Supervised Gradients Improve Deep Frozen Representations
von: Simoncini, Walter, et al.
Veröffentlicht: (2024)
von: Simoncini, Walter, et al.
Veröffentlicht: (2024)
Gradient Extrapolation for Debiased Representation Learning
von: Asaad, Ihab, et al.
Veröffentlicht: (2025)
von: Asaad, Ihab, et al.
Veröffentlicht: (2025)
Handling The Non-Smooth Challenge in Tensor SVD: A Multi-Objective Tensor Recovery Framework
von: Zheng, Jingjing, et al.
Veröffentlicht: (2023)
von: Zheng, Jingjing, et al.
Veröffentlicht: (2023)
A Systematic Analysis of Out-of-Distribution Detection Under Representation and Training Paradigm Shifts
von: Olivares, Claudio César Claros, et al.
Veröffentlicht: (2025)
von: Olivares, Claudio César Claros, et al.
Veröffentlicht: (2025)
Performance Plateaus in Inference-Time Scaling for Text-to-Image Diffusion Without External Models
von: Choi, Changhyun, et al.
Veröffentlicht: (2025)
von: Choi, Changhyun, et al.
Veröffentlicht: (2025)
DiffRatio: Training One-Step Diffusion Models Without Teacher Supervision
von: Chen, Wenlin, et al.
Veröffentlicht: (2025)
von: Chen, Wenlin, et al.
Veröffentlicht: (2025)
SOLAR: SVD-Optimized Lifelong Attention for Recommendation
von: Zhang, Chenghao, et al.
Veröffentlicht: (2026)
von: Zhang, Chenghao, et al.
Veröffentlicht: (2026)
SwordBench: Evaluating Orthogonality of Steering Image Representations
von: Zaigrajew, Vladimir, et al.
Veröffentlicht: (2026)
von: Zaigrajew, Vladimir, et al.
Veröffentlicht: (2026)
Inductive Gradient Adjustment For Spectral Bias In Implicit Neural Representations
von: Shi, Kexuan, et al.
Veröffentlicht: (2024)
von: Shi, Kexuan, et al.
Veröffentlicht: (2024)
A Geometric View of SRC: Learning Representations for Stable Residual Inference
von: Oikonomou, Vangelis P.
Veröffentlicht: (2026)
von: Oikonomou, Vangelis P.
Veröffentlicht: (2026)
Hierarchy-Guided Multimodal Representation Learning for Taxonomic Inference
von: Ahmed, Sk Miraj, et al.
Veröffentlicht: (2026)
von: Ahmed, Sk Miraj, et al.
Veröffentlicht: (2026)
Gradient-Aligned Calibration for Post-Training Quantization of Diffusion Models
von: Hoang, Dung Anh, et al.
Veröffentlicht: (2026)
von: Hoang, Dung Anh, et al.
Veröffentlicht: (2026)
LTD: Low Temperature Distillation for Gradient Masking-free Adversarial Training
von: Chen, Erh-Chung, et al.
Veröffentlicht: (2021)
von: Chen, Erh-Chung, et al.
Veröffentlicht: (2021)
Coarse-To-Fine Tensor Trains for Compact Visual Representations
von: Loeschcke, Sebastian, et al.
Veröffentlicht: (2024)
von: Loeschcke, Sebastian, et al.
Veröffentlicht: (2024)
Divisive Decisions: Improving Salience-Based Training for Generalization in Binary Classification Tasks
von: Piland, Jacob, et al.
Veröffentlicht: (2025)
von: Piland, Jacob, et al.
Veröffentlicht: (2025)
On-Device Vision Training, Deployment, and Inference on a Thumb-Sized Microcontroller
von: Ellis, Jeremy
Veröffentlicht: (2026)
von: Ellis, Jeremy
Veröffentlicht: (2026)
Representation-Conditioned Diffusion Models for Guided Training Data Generation
von: Karthikeyan, Nithesh Chandher, et al.
Veröffentlicht: (2026)
von: Karthikeyan, Nithesh Chandher, et al.
Veröffentlicht: (2026)
Image Outlier Detection Without Training using RANSAC
von: Tsai, Chen-Han, et al.
Veröffentlicht: (2023)
von: Tsai, Chen-Han, et al.
Veröffentlicht: (2023)
Unsupervised Feature Orthogonalization for Learning Distortion-Invariant Representations
von: Doerrich, Sebastian, et al.
Veröffentlicht: (2024)
von: Doerrich, Sebastian, et al.
Veröffentlicht: (2024)
Learning to Generate Gradients for Test-Time Adaptation via Test-Time Training Layers
von: Deng, Qi, et al.
Veröffentlicht: (2024)
von: Deng, Qi, et al.
Veröffentlicht: (2024)
Conditioning GAN Without Training Dataset
von: Mekonnen, Kidist Amde
Veröffentlicht: (2024)
von: Mekonnen, Kidist Amde
Veröffentlicht: (2024)
Light Interaction: Training-Free Inference Acceleration for Interactive Video World Models
von: Lu, Jiacheng, et al.
Veröffentlicht: (2026)
von: Lu, Jiacheng, et al.
Veröffentlicht: (2026)
Decouple and Orthogonalize: A Data-Free Framework for LoRA Merging
von: Zheng, Shenghe, et al.
Veröffentlicht: (2025)
von: Zheng, Shenghe, et al.
Veröffentlicht: (2025)
Breast Cancer VLMs: Clinically Practical Vision-Language Train-Inference Models
von: Zheng, Shunjie-Fabian, et al.
Veröffentlicht: (2025)
von: Zheng, Shunjie-Fabian, et al.
Veröffentlicht: (2025)
DANCE: DAta-Network Co-optimization for Efficient Segmentation Model Training and Inference
von: Li, Chaojian, et al.
Veröffentlicht: (2021)
von: Li, Chaojian, et al.
Veröffentlicht: (2021)
TWEO: Transformers Without Extreme Outliers Enables FP8 Training And Quantization For Dummies
von: Liang, Guang, et al.
Veröffentlicht: (2025)
von: Liang, Guang, et al.
Veröffentlicht: (2025)
Towards Robust Neural Networks via Orthogonal Diversity
von: Fang, Kun, et al.
Veröffentlicht: (2020)
von: Fang, Kun, et al.
Veröffentlicht: (2020)
Refine and Purify: Orthogonal Basis Optimization with Null-Space Denoising for Conditional Representation Learning
von: Wang, Jiaquan, et al.
Veröffentlicht: (2026)
von: Wang, Jiaquan, et al.
Veröffentlicht: (2026)
Representation Alignment for Generation: Training Diffusion Transformers Is Easier Than You Think
von: Yu, Sihyun, et al.
Veröffentlicht: (2024)
von: Yu, Sihyun, et al.
Veröffentlicht: (2024)
SCOPE: Semantic Coreset with Orthogonal Projection Embeddings for Federated learning
von: Hossen, Md Anwar, et al.
Veröffentlicht: (2026)
von: Hossen, Md Anwar, et al.
Veröffentlicht: (2026)
Flow Map Distillation Without Data
von: Tong, Shangyuan, et al.
Veröffentlicht: (2025)
von: Tong, Shangyuan, et al.
Veröffentlicht: (2025)
ProFeAT: Projected Feature Adversarial Training for Self-Supervised Learning of Robust Representations
von: Addepalli, Sravanti, et al.
Veröffentlicht: (2024)
von: Addepalli, Sravanti, et al.
Veröffentlicht: (2024)
SurrogateSHAP: Training-Free Contributor Attribution for Text-to-Image (T2I) Models
von: Lu, Mingyu, et al.
Veröffentlicht: (2026)
von: Lu, Mingyu, et al.
Veröffentlicht: (2026)
SVD Based Least Squares for X-Ray Pneumonia Classification Using Deep Features
von: Erdogan, Mete, et al.
Veröffentlicht: (2025)
von: Erdogan, Mete, et al.
Veröffentlicht: (2025)
Concept Bottleneck Models Without Predefined Concepts
von: Schrodi, Simon, et al.
Veröffentlicht: (2024)
von: Schrodi, Simon, et al.
Veröffentlicht: (2024)
Ähnliche Einträge
-
CORE-MTL: Rethinking Gradient Balancing via Causal Orthogonal Representations
von: Wu, Chengfeng, et al.
Veröffentlicht: (2026) -
tenSVD algorithm for compression
von: Gallo, Michele
Veröffentlicht: (2025) -
Compositional Generalization Requires Linear, Orthogonal Representations in Vision Embedding Models
von: Uselis, Arnas, et al.
Veröffentlicht: (2026) -
Octopus: History-Free Gradient Orthogonalization for Continual Learning in Multimodal Large Language Models
von: Liu, Yuehao, et al.
Veröffentlicht: (2026) -
FG-OrIU: Towards Better Forgetting via Feature-Gradient Orthogonality for Incremental Unlearning
von: Feng, Qian, et al.
Veröffentlicht: (2026)