Efficient Inference Using Large Language Models with Limited Human Data: Fine-Tuning then Rectification
Fuente:
arXiv
Enregistré dans:
| Auteurs principaux: | Wang, Lei, Ye, Zikun, Zhao, Jinglong |
|---|---|
| Format: | Preprint |
| Publié: |
2025
|
| Sujets: | |
| Accès en ligne: | |
| Tags: |
Ajouter un tag
Pas de tags, Soyez le premier à ajouter un tag!
|
Documents similaires
Robust Reinforcement Learning from Human Feedback for Large Language Models Fine-Tuning
par: Ye, Kai, et autres
Publié: (2025)
par: Ye, Kai, et autres
Publié: (2025)
Crafting Efficient Fine-Tuning Strategies for Large Language Models
par: Oliver, Michael, et autres
Publié: (2024)
par: Oliver, Michael, et autres
Publié: (2024)
RoSTE: An Efficient Quantization-Aware Supervised Fine-Tuning Approach for Large Language Models
par: Wei, Quan, et autres
Publié: (2025)
par: Wei, Quan, et autres
Publié: (2025)
Sparsity-Aware Low-Rank Representation for Efficient Fine-Tuning of Large Language Models
par: Zhang, Longteng, et autres
Publié: (2026)
par: Zhang, Longteng, et autres
Publié: (2026)
Automated Federated Pipeline for Parameter-Efficient Fine-Tuning of Large Language Models
par: Fang, Zihan, et autres
Publié: (2024)
par: Fang, Zihan, et autres
Publié: (2024)
A Bayesian Hybrid Parameter-Efficient Fine-Tuning Method for Large Language Models
par: Chai, Yidong, et autres
Publié: (2025)
par: Chai, Yidong, et autres
Publié: (2025)
The Effectiveness of Approximate Regularized Replay for Efficient Supervised Fine-Tuning of Large Language Models
par: Riemer, Matthew, et autres
Publié: (2025)
par: Riemer, Matthew, et autres
Publié: (2025)
FedKRSO: Communication and Memory Efficient Federated Fine-Tuning of Large Language Models
par: Yang, Guohao, et autres
Publié: (2026)
par: Yang, Guohao, et autres
Publié: (2026)
Understanding and Guiding Layer Placement in Parameter-Efficient Fine-Tuning of Large Language Models
par: Xu, Yichen, et autres
Publié: (2026)
par: Xu, Yichen, et autres
Publié: (2026)
GFT: From Imitation to Reward Fine-Tuning with Unbiased Group Advantages and Dynamic Coefficient Rectification
par: Gan, Wangjie, et autres
Publié: (2026)
par: Gan, Wangjie, et autres
Publié: (2026)
Inference-Aware Fine-Tuning for Best-of-N Sampling in Large Language Models
par: Chow, Yinlam, et autres
Publié: (2024)
par: Chow, Yinlam, et autres
Publié: (2024)
On the Entropy Dynamics in Reinforcement Fine-Tuning of Large Language Models
par: Wang, Shumin, et autres
Publié: (2026)
par: Wang, Shumin, et autres
Publié: (2026)
Linearization Explains Fine-Tuning in Large Language Models
par: Afzal, Zahra Rahimi, et autres
Publié: (2026)
par: Afzal, Zahra Rahimi, et autres
Publié: (2026)
MELINOE: Fine-Tuning Enables Memory-Efficient Inference for Mixture-of-Experts Models
par: Raje, Arian, et autres
Publié: (2026)
par: Raje, Arian, et autres
Publié: (2026)
TuneComp: Joint Fine-tuning and Compression for Large Foundation Models
par: Chen, Xiangyu, et autres
Publié: (2025)
par: Chen, Xiangyu, et autres
Publié: (2025)
Exploring Gradient Subspaces: Addressing and Overcoming LoRA's Limitations in Federated Fine-Tuning of Large Language Models
par: Mahla, Navyansh, et autres
Publié: (2024)
par: Mahla, Navyansh, et autres
Publié: (2024)
FZOO: Fast Zeroth-Order Optimizer for Fine-Tuning Large Language Models towards Adam-Scale Speed
par: Dang, Sizhe, et autres
Publié: (2025)
par: Dang, Sizhe, et autres
Publié: (2025)
Adaptive Defense against Harmful Fine-Tuning for Large Language Models via Bayesian Data Scheduler
par: Hu, Zixuan, et autres
Publié: (2025)
par: Hu, Zixuan, et autres
Publié: (2025)
A Survey on Parameter-Efficient Fine-Tuning for Foundation Models in Federated Learning
par: Bian, Jieming, et autres
Publié: (2025)
par: Bian, Jieming, et autres
Publié: (2025)
QuZO: Quantized Zeroth-Order Fine-Tuning for Large Language Models
par: Zhou, Jiajun, et autres
Publié: (2025)
par: Zhou, Jiajun, et autres
Publié: (2025)
Preserving Diversity in Supervised Fine-Tuning of Large Language Models
par: Li, Ziniu, et autres
Publié: (2024)
par: Li, Ziniu, et autres
Publié: (2024)
Boosting Large Language Models with Mask Fine-Tuning
par: Zhang, Mingyuan, et autres
Publié: (2025)
par: Zhang, Mingyuan, et autres
Publié: (2025)
IRIS: Interpolative Rényi Iterative Self-play for Large Language Model Fine-Tuning
par: Liao, Wenjie, et autres
Publié: (2026)
par: Liao, Wenjie, et autres
Publié: (2026)
Multi-Level Safety Continual Projection for Fine-Tuned Large Language Models without Retraining
par: Han, Bing, et autres
Publié: (2025)
par: Han, Bing, et autres
Publié: (2025)
PrivTune: Efficient and Privacy-Preserving Fine-Tuning of Large Language Models via Device-Cloud Collaboration
par: Liu, Yi, et autres
Publié: (2025)
par: Liu, Yi, et autres
Publié: (2025)
Efficient Federated Fine-Tuning of Large Language Models with Layer Dropout
par: Wang, Shilong, et autres
Publié: (2025)
par: Wang, Shilong, et autres
Publié: (2025)
Efficient Low Rank Attention for Long-Context Inference in Large Language Models
par: Li, Tenghui, et autres
Publié: (2025)
par: Li, Tenghui, et autres
Publié: (2025)
BEFT: Bias-Efficient Fine-Tuning of Language Models in Low-Data Regimes
par: Huang, Baichuan, et autres
Publié: (2025)
par: Huang, Baichuan, et autres
Publié: (2025)
Re-Tuning: Overcoming the Compositionality Limits of Large Language Models with Recursive Tuning
par: Pasewark, Eric, et autres
Publié: (2024)
par: Pasewark, Eric, et autres
Publié: (2024)
Efficient and Scalable Fine-Tune of Language Models for Genome Understanding
par: Zhan, Huixin, et autres
Publié: (2024)
par: Zhan, Huixin, et autres
Publié: (2024)
LLM in a flash: Efficient Large Language Model Inference with Limited Memory
par: Alizadeh, Keivan, et autres
Publié: (2023)
par: Alizadeh, Keivan, et autres
Publié: (2023)
Federated Data-Efficient Instruction Tuning for Large Language Models
par: Qin, Zhen, et autres
Publié: (2024)
par: Qin, Zhen, et autres
Publié: (2024)
BIPEFT: Budget-Guided Iterative Search for Parameter Efficient Fine-Tuning of Large Pretrained Language Models
par: Chang, Aofei, et autres
Publié: (2024)
par: Chang, Aofei, et autres
Publié: (2024)
TabTune: A Unified Library for Inference and Fine-Tuning Tabular Foundation Models
par: Tanna, Aditya, et autres
Publié: (2025)
par: Tanna, Aditya, et autres
Publié: (2025)
SFT-GO: Supervised Fine-Tuning with Group Optimization for Large Language Models
par: Kim, Gyuhak, et autres
Publié: (2025)
par: Kim, Gyuhak, et autres
Publié: (2025)
Reinforcement Learning Fine-Tunes a Sparse Subnetwork in Large Language Models
par: Balashov, Andrii
Publié: (2025)
par: Balashov, Andrii
Publié: (2025)
From Theory to Application: Fine-Tuning Large EEG Model with Real-World Stress Data
par: Wang, Siwen, et autres
Publié: (2025)
par: Wang, Siwen, et autres
Publié: (2025)
Scaling Sparse Fine-Tuning to Large Language Models
par: Ansell, Alan, et autres
Publié: (2024)
par: Ansell, Alan, et autres
Publié: (2024)
Parameter-Efficient Fine-Tuning in Large Models: A Survey of Methodologies
par: Wang, Luping, et autres
Publié: (2024)
par: Wang, Luping, et autres
Publié: (2024)
Task-Aware Parameter-Efficient Fine-Tuning of Large Pre-Trained Models at the Edge
par: Hu, Senkang, et autres
Publié: (2025)
par: Hu, Senkang, et autres
Publié: (2025)
Documents similaires
-
Robust Reinforcement Learning from Human Feedback for Large Language Models Fine-Tuning
par: Ye, Kai, et autres
Publié: (2025) -
Crafting Efficient Fine-Tuning Strategies for Large Language Models
par: Oliver, Michael, et autres
Publié: (2024) -
RoSTE: An Efficient Quantization-Aware Supervised Fine-Tuning Approach for Large Language Models
par: Wei, Quan, et autres
Publié: (2025) -
Sparsity-Aware Low-Rank Representation for Efficient Fine-Tuning of Large Language Models
par: Zhang, Longteng, et autres
Publié: (2026) -
Automated Federated Pipeline for Parameter-Efficient Fine-Tuning of Large Language Models
par: Fang, Zihan, et autres
Publié: (2024)