Buchumschlag

Balancing Fidelity and Plasticity: Aligning Mixed-Precision Fine-Tuning with Linguistic Hierarchies

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Zhou, Changhai, Zhang, Shiyang, Zhou, Yuhua, Qiao, Qian, Gao, Jun, Weng, Shichao, Zhang, Weizhong, Jin, Cheng
Format:	Preprint
Veröffentlicht:	2025
Schlagworte:	Machine Learning Artificial Intelligence
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

AutoMixQ: Self-Adjusting Quantization for High Performance Memory-Efficient Fine-Tuning
von: Zhou, Changhai, et al.
Veröffentlicht: (2024)

AutoQRA: Joint Optimization of Mixed-Precision Quantization and Low-rank Adapters for Efficient LLM Fine-Tuning
von: Zhou, Changhai, et al.
Veröffentlicht: (2026)

Large Language Model Compression with Global Rank and Sparsity Optimization
von: Zhou, Changhai, et al.
Veröffentlicht: (2025)

CoRE: A Fine-Grained Code Reasoning Benchmark Beyond Output Prediction
von: Gao, Jun, et al.
Veröffentlicht: (2026)

RankAdaptor: Hierarchical Rank Allocation for Efficient Fine-Tuning Pruned LLMs via Performance Model
von: Zhou, Changhai, et al.
Veröffentlicht: (2024)

Aligning LLMs with Biomedical Knowledge using Balanced Fine-Tuning
von: Tang, Zhenchao, et al.
Veröffentlicht: (2025)

DreamText: High Fidelity Scene Text Synthesis
von: Wang, Yibin, et al.
Veröffentlicht: (2024)

Advanced Black-Box Tuning of Large Language Models with Limited API Calls
von: Xie, Zhikang, et al.
Veröffentlicht: (2025)

QPruner: Probabilistic Decision Quantization for Structured Pruning in Large Language Models
von: Zhou, Changhai, et al.
Veröffentlicht: (2024)

Hierarchy-Aware Fine-Tuning of Vision-Language Models
von: Li, Jiayu, et al.
Veröffentlicht: (2025)

Owen-based Semantics and Hierarchy-Aware Explanation (O-Shap)
von: Zhou, Xiangyu, et al.
Veröffentlicht: (2026)

MagicFace: Training-free Universal-Style Human Image Customized Synthesis
von: Wang, Yibin, et al.
Veröffentlicht: (2024)

GeoSketch: A Neural-Symbolic Approach to Geometric Multimodal Reasoning with Auxiliary Line Construction and Affine Transformation
von: Weng, Shichao, et al.
Veröffentlicht: (2025)

Aligning Backchannel and Dialogue Context Representations via Contrastive LLM Fine-Tuning
von: Qian, Livia, et al.
Veröffentlicht: (2026)

SplitLoRA: Balancing Stability and Plasticity in Continual Learning Through Gradient Space Splitting
von: Qiu, Haomiao, et al.
Veröffentlicht: (2025)

DLoRA: Distributed Parameter-Efficient Fine-Tuning Solution for Large Language Model
von: Gao, Chao, et al.
Veröffentlicht: (2024)

High-fidelity Person-centric Subject-to-Image Synthesis
von: Wang, Yibin, et al.
Veröffentlicht: (2023)

PrimeComposer: Faster Progressively Combined Diffusion for Image Composition with Attention Steering
von: Wang, Yibin, et al.
Veröffentlicht: (2024)

Balancing Truthfulness and Informativeness with Uncertainty-Aware Instruction Fine-Tuning
von: Wu, Tianyi, et al.
Veröffentlicht: (2025)

AlignBot: Aligning VLM-powered Customized Task Planning with User Reminders Through Fine-Tuning for Household Robots
von: Zhaxizhuoma, Zhaxizhuoma, et al.
Veröffentlicht: (2024)

Decouple before Align: Visual Disentanglement Enhances Prompt Tuning
von: Zhang, Fei, et al.
Veröffentlicht: (2025)

Refining Salience-Aware Sparse Fine-Tuning Strategies for Language Models
von: Liu, Xinxin, et al.
Veröffentlicht: (2024)

IN-RIL: Interleaved Reinforcement and Imitation Learning for Policy Fine-Tuning
von: Gao, Dechen, et al.
Veröffentlicht: (2025)

From Coarse to Nuanced: Cross-Modal Alignment of Fine-Grained Linguistic Cues and Visual Salient Regions for Dynamic Emotion Recognition
von: Liu, Yu, et al.
Veröffentlicht: (2025)

Learning from Loss Landscape: Generalizable Mixed-Precision Quantization via Adaptive Sharpness-Aware Gradient Aligning
von: Ma, Lianbo, et al.
Veröffentlicht: (2025)

Rethinking Supervised Fine-Tuning: Emphasizing Key Answer Tokens for Improved LLM Accuracy
von: Shi, Xiaofeng, et al.
Veröffentlicht: (2025)

HUT: A More Computation Efficient Fine-Tuning Method With Hadamard Updated Transformation
von: Zhang, Geyuan, et al.
Veröffentlicht: (2024)

Enhancing Object Coherence in Layout-to-Image Synthesis
von: Wang, Yibin, et al.
Veröffentlicht: (2023)

ASFT: Aligned Supervised Fine-Tuning through Absolute Likelihood
von: Wang, Ruoyu, et al.
Veröffentlicht: (2024)

EMRRG: Efficient Fine-Tuning Pre-trained X-ray Mamba Networks for Radiology Report Generation
von: Zhang, Mingzheng, et al.
Veröffentlicht: (2025)

Fine-Tuning is Fine, if Calibrated
von: Mai, Zheda, et al.
Veröffentlicht: (2024)

Align and Surpass Human Camouflaged Perception: Visual Refocus Reinforcement Fine-Tuning
von: Shen, Ruolin, et al.
Veröffentlicht: (2025)

LENSLLM: Unveiling Fine-Tuning Dynamics for LLM Selection
von: Zeng, Xinyue, et al.
Veröffentlicht: (2025)

TAGCOS: Task-agnostic Gradient Clustered Coreset Selection for Instruction Tuning Data
von: Zhang, Jipeng, et al.
Veröffentlicht: (2024)

Improving Linguistic Diversity of Large Language Models with Possibility Exploration Fine-Tuning
von: Mai, Long, et al.
Veröffentlicht: (2024)

RAFT: Data Refinement and Adaptive Distillation for Domain Fine-Tuning with Alleviated Forgetting
von: Li, Yuduo, et al.
Veröffentlicht: (2026)

Phased Instruction Fine-Tuning for Large Language Models
von: Pang, Wei, et al.
Veröffentlicht: (2024)

Aligning Instruction Tuning with Pre-training
von: Liang, Yiming, et al.
Veröffentlicht: (2025)

Restoring Calibration for Aligned Large Language Models: A Calibration-Aware Fine-Tuning Approach
von: Xiao, Jiancong, et al.
Veröffentlicht: (2025)

Just Enough Shifts: Mitigating Over-Refusal in Aligned Language Models with Targeted Representation Fine-Tuning
von: Dabas, Mahavir, et al.
Veröffentlicht: (2025)