Buchumschlag

Branch, or Layer? Zeroth-Order Optimization for Continual Learning of Vision-Language Models

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Liu, Ziwei, Kang, Borui, Li, Wei, Yuan, Hangjie, Yang, Yanbing, Li, Wenbin, Zhu, Yifan, Feng, Tao, Luo, Jun
Format:	Preprint
Veröffentlicht:	2025
Schlagworte:	Computer Vision and Pattern Recognition
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Continual GUI Agents
von: Liu, Ziwei, et al.
Veröffentlicht: (2026)

A Faster Path to Continual Learning
von: Li, Wei, et al.
Veröffentlicht: (2026)

Zoom to Essence: Trainless GUI Grounding by Inferring upon Interface Elements
von: Liu, Ziwei, et al.
Veröffentlicht: (2026)

C-Flat++: Towards a More Efficient and Powerful Framework for Continual Learning
von: Li, Wei, et al.
Veröffentlicht: (2025)

Learning a Zeroth-Order Optimizer for Fine-Tuning LLMs
von: Zhang, Kairun, et al.
Veröffentlicht: (2025)

More Than Memory Savings: Zeroth-Order Optimization Mitigates Forgetting in Continual Learning
von: Yu, Wanhao, et al.
Veröffentlicht: (2025)

Learning Dynamics of Zeroth-Order Optimization: A Kernel Perspective
von: Li, Zhe, et al.
Veröffentlicht: (2026)

Rethinking the Stability-Plasticity Trade-off in Continual Learning from an Architectural Perspective
von: Lu, Aojun, et al.
Veröffentlicht: (2025)

Adapt before Continual Learning
von: Lu, Aojun, et al.
Veröffentlicht: (2025)

Why Does Adaptive Zeroth-Order Optimization Work?
von: Ye, Haishan, et al.
Veröffentlicht: (2026)

Universally Empowering Zeroth-Order Optimization via Adaptive Layer-wise Sampling
von: Wang, Fei, et al.
Veröffentlicht: (2026)

Revisiting Neural Networks for Continual Learning: An Architectural Perspective
von: Lu, Aojun, et al.
Veröffentlicht: (2024)

Model-Agnostic Meta-Policy Optimization via Zeroth-Order Estimation: A Linear Quadratic Regulator Perspective
von: Pan, Yunian, et al.
Veröffentlicht: (2025)

Private Zeroth-Order Optimization with Public Data
von: Gong, Xuchen, et al.
Veröffentlicht: (2025)

Zeroth-Order Optimization at the Edge of Stability
von: Song, Minhak, et al.
Veröffentlicht: (2026)

Achieving Dimension-Free Communication in Federated Learning via Zeroth-Order Optimization
von: Li, Zhe, et al.
Veröffentlicht: (2024)

LibContinual: A Comprehensive Library towards Realistic Continual Learning
von: Li, Wenbin, et al.
Veröffentlicht: (2025)

The Multi-Query Paradox in Zeroth-Order Optimization
von: Lin, Wei, et al.
Veröffentlicht: (2025)

Privacy Amplification in Differentially Private Zeroth-Order Optimization with Hidden States
von: Chien, Eli, et al.
Veröffentlicht: (2025)

On Adaptivity in Zeroth-Order Optimization
von: Dbouk, Hassan, et al.
Veröffentlicht: (2026)

Zeroth-Order Optimization Finds Flat Minima
von: Zhang, Liang, et al.
Veröffentlicht: (2025)

MaZO: Masked Zeroth-Order Optimization for Multi-Task Fine-Tuning of Large Language Models
von: Zhang, Zhen, et al.
Veröffentlicht: (2025)

Compander-Aligned Query Geometry for Quantized Zeroth-Order Optimization
von: Shu, Yao, et al.
Veröffentlicht: (2026)

Distributed Stochastic Zeroth-Order Optimization with Compressed Communication
von: Hua, Youqing, et al.
Veröffentlicht: (2025)

Make Continual Learning Stronger via C-Flat
von: Bian, Ang, et al.
Veröffentlicht: (2024)

Communication-Efficient and Differentially Private Vertical Federated Learning with Zeroth-Order Optimization
von: Zhang, Jianing, et al.
Veröffentlicht: (2025)

Zeroth-Order Sharpness-Aware Learning with Exponential Tilting
von: Gong, Xuchen, et al.
Veröffentlicht: (2025)

A Historical Trajectory Assisted Optimization Method for Zeroth-Order Federated Learning
von: Wu, Chenlin, et al.
Veröffentlicht: (2024)

Localized Zeroth-Order Prompt Optimization
von: Hu, Wenyang, et al.
Veröffentlicht: (2024)

Optimal Zeroth-Order Bilevel Optimization
von: Aghasi, Alireza, et al.
Veröffentlicht: (2025)

Continuous-Time Zeroth-Order Dynamics with Projection Maps: Model-Free Feedback Optimization with Safety Guarantees
von: Chen, Xin, et al.
Veröffentlicht: (2023)

Why Does RL Generalize Better Than SFT? A Data-Centric Perspective on VLM Post-Training
von: Lu, Aojun, et al.
Veröffentlicht: (2026)

A Parameter-Free and Near-Optimal Zeroth-Order Algorithm for Stochastic Convex Optimization
von: Ren, Kunjie, et al.
Veröffentlicht: (2025)

Zeroth-Order Optimization is Secretly Single-Step Policy Optimization
von: Qiu, Junbin, et al.
Veröffentlicht: (2025)

FOZO: Forward-Only Zeroth-Order Prompt Optimization for Test-Time Adaptation
von: Wang, Xingyu, et al.
Veröffentlicht: (2026)

Aligned but Fragile: Enhancing LLM Safety Robustness via Zeroth-Order Optimization
von: Liu, Zhihao, et al.
Veröffentlicht: (2026)

Converge Faster, Talk Less: Hessian-Informed Federated Zeroth-Order Optimization
von: Li, Zhe, et al.
Veröffentlicht: (2025)

Position: Zeroth-Order Optimization in Deep Learning Is Underexplored, Not Underpowered
von: Liu, Sijia, et al.
Veröffentlicht: (2026)

Model-Agnostic Zeroth-Order Policy Optimization for Meta-Learning of Ergodic Linear Quadratic Regulators
von: Pan, Yunian, et al.
Veröffentlicht: (2024)

QuZO: Quantized Zeroth-Order Fine-Tuning for Large Language Models
von: Zhou, Jiajun, et al.
Veröffentlicht: (2025)