Simultaneous Computation and Memory Efficient Zeroth-Order Optimizer for Fine-Tuning Large Language Models

Ähnliche Einträge

• Universally Empowering Zeroth-Order Optimization via Adaptive Layer-wise Sampling
  von: Wang, Fei, et al.
  Veröffentlicht: (2026)
• Revisiting Zeroth-Order Optimization for Memory-Efficient LLM Fine-Tuning: A Benchmark
  von: Zhang, Yihua, et al.
  Veröffentlicht: (2024)
• On the Convergence of Zeroth-Order Federated Tuning for Large Language Models
  von: Ling, Zhenqing, et al.
  Veröffentlicht: (2024)
• Prior-Informed Zeroth-Order Optimization with Adaptive Direction Alignment for Memory-Efficient LLM Fine-Tuning
  von: Jin, Feihu, et al.
  Veröffentlicht: (2026)
• AdaZeta: Adaptive Zeroth-Order Tensor-Train Adaption for Memory-Efficient Large Language Models Fine-Tuning
  von: Yang, Yifan, et al.
  Veröffentlicht: (2024)