Buchumschlag

Orthogonal Finetuning Made Scalable

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Qiu, Zeju, Liu, Weiyang, Weller, Adrian, Schölkopf, Bernhard
Format:	Preprint
Veröffentlicht:	2025
Schlagworte:	Machine Learning Artificial Intelligence Computation and Language Computer Vision and Pattern Recognition
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Controlling Text-to-Image Diffusion by Orthogonal Finetuning
von: Qiu, Zeju, et al.
Veröffentlicht: (2023)

Parameter-Efficient Orthogonal Finetuning via Butterfly Factorization
von: Liu, Weiyang, et al.
Veröffentlicht: (2023)

Can Large Language Models Understand Symbolic Graphics Programs?
von: Qiu, Zeju, et al.
Veröffentlicht: (2024)

POET-X: Memory-efficient LLM Training by Scaling Orthogonal Transformation
von: Qiu, Zeju, et al.
Veröffentlicht: (2026)

Reparameterized LLM Training via Orthogonal Equivalence Transformation
von: Qiu, Zeju, et al.
Veröffentlicht: (2025)

Verbalized Machine Learning: Revisiting Machine Learning with Language Models
von: Xiao, Tim Z., et al.
Veröffentlicht: (2024)

Agentic Design of Compositional Machines
von: Zhang, Wenqian, et al.
Veröffentlicht: (2025)

MoLEx: Mixture of Layer Experts for Finetuning with Sparse Upcycling
von: Teo, Rachel S. Y., et al.
Veröffentlicht: (2025)

VLSM-Adapter: Finetuning Vision-Language Segmentation Efficiently with Lightweight Blocks
von: Dhakal, Manish, et al.
Veröffentlicht: (2024)

LLM-CXR: Instruction-Finetuned LLM for CXR Image Understanding and Generation
von: Lee, Suhyeon, et al.
Veröffentlicht: (2023)

Hyperbolic Busemann Neural Networks
von: Chen, Ziheng, et al.
Veröffentlicht: (2026)

How LoRA Remembers? A Parametric Memory Law for LLM Finetuning
von: Xu, Ziwen, et al.
Veröffentlicht: (2026)

PEFT-Arena: Understanding Parameter-Efficient Finetuning from a Stability-Plasticity Perspective
von: Huang, Yangyi, et al.
Veröffentlicht: (2026)

MoPE: Mixture of Prompt Experts for Parameter-Efficient and Scalable Multimodal Fusion
von: Jiang, Ruixiang, et al.
Veröffentlicht: (2024)

Energy-Based Transformers are Scalable Learners and Thinkers
von: Gladstone, Alexi, et al.
Veröffentlicht: (2025)

Scalable Video-to-Dataset Generation for Cross-Platform Mobile Agents
von: Jang, Yunseok, et al.
Veröffentlicht: (2025)

Identifying Intervenable and Interpretable Features via Orthogonality Regularization
von: Miller, Moritz, et al.
Veröffentlicht: (2026)

Leveraging Large Language Models for Scalable Vector Graphics-Driven Image Understanding
von: Cai, Mu, et al.
Veröffentlicht: (2023)

VERA: Explainable Video Anomaly Detection via Verbalized Learning of Vision-Language Models
von: Ye, Muchao, et al.
Veröffentlicht: (2024)

Group and Shuffle: Efficient Structured Orthogonal Parametrization
von: Gorbunov, Mikhail, et al.
Veröffentlicht: (2024)

Cream of the Crop: Harvesting Rich, Scalable and Transferable Multi-Modal Data for Instruction Fine-Tuning
von: Lyu, Mengyao, et al.
Veröffentlicht: (2025)

TRACER: Persistent Regularization for Robust Multimodal Finetuning
von: Asadollahzadeh, Hesam, et al.
Veröffentlicht: (2026)

Decoding Diffusion: A Scalable Framework for Unsupervised Analysis of Latent Space Biases and Representations Using Natural Language Prompts
von: Zeng, E. Zhixuan, et al.
Veröffentlicht: (2024)

Unified Vision-Language Modeling via Concept Space Alignment
von: Qiu, Yifu, et al.
Veröffentlicht: (2026)

Exploring the Effect of Reinforcement Learning on Video Understanding: Insights from SEED-Bench-R1
von: Chen, Yi, et al.
Veröffentlicht: (2025)

From Pixels to Components: Eigenvector Masking for Visual Representation Learning
von: Bizeul, Alice, et al.
Veröffentlicht: (2025)

TouchUp-G: Improving Feature Representation through Graph-Centric Finetuning
von: Zhu, Jing, et al.
Veröffentlicht: (2023)

Self-Supervised Disentanglement by Leveraging Structure in Data Augmentations
von: Eastwood, Cian, et al.
Veröffentlicht: (2023)

PQPP: A Joint Benchmark for Text-to-Image Prompt and Query Performance Prediction
von: Poesina, Eduard, et al.
Veröffentlicht: (2024)

Few-Shot Recognition via Stage-Wise Retrieval-Augmented Finetuning
von: Liu, Tian, et al.
Veröffentlicht: (2024)

BitStack: Any-Size Compression of Large Language Models in Variable Memory Environments
von: Wang, Xinghao, et al.
Veröffentlicht: (2024)

GraphDreamer: Compositional 3D Scene Synthesis from Scene Graphs
von: Gao, Gege, et al.
Veröffentlicht: (2023)

Metis-SPECS: Decoupling Multimodal Learning via Self-distilled Preference-based Cold Start
von: Chen, Kun, et al.
Veröffentlicht: (2025)

Bias Is a Subspace, Not a Coordinate: A Geometric Rethinking of Post-hoc Debiasing in Vision-Language Models
von: Zhao, Dachuan, et al.
Veröffentlicht: (2025)

From EduVisBench to EduVisAgent: A Benchmark and Multi-Agent Framework for Reasoning-Driven Pedagogical Visualization
von: Ji, Haonian, et al.
Veröffentlicht: (2025)

A Survey of Reasoning with Foundation Models
von: Sun, Jiankai, et al.
Veröffentlicht: (2023)

AnyGPT: Unified Multimodal LLM with Discrete Sequence Modeling
von: Zhan, Jun, et al.
Veröffentlicht: (2024)

deepTerra -- AI Land Classification Made Easy
von: Wilkinson, Andrew Keith
Veröffentlicht: (2025)

RetinalGPT: A Retinal Clinical Preference Conversational Assistant Powered by Large Vision-Language Models
von: Zhu, Wenhui, et al.
Veröffentlicht: (2025)

MathVerse: Does Your Multi-modal LLM Truly See the Diagrams in Visual Math Problems?
von: Zhang, Renrui, et al.
Veröffentlicht: (2024)