SDA: Steering-Driven Distribution Alignment for Open LLMs without Fine-Tuning
Fuente:
arXiv
Enregistré dans:
| Auteurs principaux: | Xia, Wei, Deng, Zhi-Hong |
|---|---|
| Format: | Preprint |
| Publié: |
2025
|
| Sujets: | |
| Accès en ligne: | |
| Tags: |
Ajouter un tag
Pas de tags, Soyez le premier à ajouter un tag!
|
Documents similaires
Steering Out-of-Distribution Generalization with Concept Ablation Fine-Tuning
par: Casademunt, Helena, et autres
Publié: (2025)
par: Casademunt, Helena, et autres
Publié: (2025)
Middle-Layer Representation Alignment for Cross-Lingual Transfer in Fine-Tuned LLMs
par: Liu, Danni, et autres
Publié: (2025)
par: Liu, Danni, et autres
Publié: (2025)
When Do LLMs Reason? A Dynamical Systems View via Entropy Phase Transitions
par: Xia, Wei, et autres
Publié: (2026)
par: Xia, Wei, et autres
Publié: (2026)
Direct Alignment of Draft Model for Speculative Decoding with Chat-Fine-Tuned LLMs
par: Goel, Raghavv, et autres
Publié: (2024)
par: Goel, Raghavv, et autres
Publié: (2024)
GraphGen: Enhancing Supervised Fine-Tuning for LLMs with Knowledge-Driven Synthetic Data Generation
par: Chen, Zihong, et autres
Publié: (2025)
par: Chen, Zihong, et autres
Publié: (2025)
Re-Emergent Misalignment: How Narrow Fine-Tuning Erodes Safety Alignment in LLMs
par: Giordani, Jeremiah
Publié: (2025)
par: Giordani, Jeremiah
Publié: (2025)
NeuronTune: Fine-Grained Neuron Modulation for Balanced Safety-Utility Alignment in LLMs
par: Pan, Birong, et autres
Publié: (2025)
par: Pan, Birong, et autres
Publié: (2025)
Sparse but Critical: A Token-Level Analysis of Distributional Shifts in RLVR Fine-Tuning of LLMs
par: Meng, Haoming, et autres
Publié: (2026)
par: Meng, Haoming, et autres
Publié: (2026)
Keep the General, Inject the Specific: Structured Dialogue Fine-Tuning for Knowledge Injection without Catastrophic Forgetting
par: Hong, Yijie, et autres
Publié: (2025)
par: Hong, Yijie, et autres
Publié: (2025)
GradPruner: Gradient-Guided Layer Pruning Enabling Efficient Fine-Tuning and Inference for LLMs
par: Huang, Wei, et autres
Publié: (2026)
par: Huang, Wei, et autres
Publié: (2026)
Intuitive Fine-Tuning: Towards Simplifying Alignment into a Single Process
par: Hua, Ermo, et autres
Publié: (2024)
par: Hua, Ermo, et autres
Publié: (2024)
Scaling Data Diversity for Fine-Tuning Language Models in Human Alignment
par: Song, Feifan, et autres
Publié: (2024)
par: Song, Feifan, et autres
Publié: (2024)
On the Limitations of Steering in Language Model Alignment
par: Niranjan, Chebrolu, et autres
Publié: (2025)
par: Niranjan, Chebrolu, et autres
Publié: (2025)
LLMs Meet Finance: Fine-Tuning Foundation Models for the Open FinLLM Leaderboard
par: Rao, Varun, et autres
Publié: (2025)
par: Rao, Varun, et autres
Publié: (2025)
CoSToM:Causal-oriented Steering for Intrinsic Theory-of-Mind Alignment in Large Language Models
par: Li, Mengfan, et autres
Publié: (2026)
par: Li, Mengfan, et autres
Publié: (2026)
Fine-Tuning LLMs for Reliable Medical Question-Answering Services
par: Anaissi, Ali, et autres
Publié: (2024)
par: Anaissi, Ali, et autres
Publié: (2024)
Step-On-Feet Tuning: Scaling Self-Alignment of LLMs via Bootstrapping
par: Wang, Haoyu, et autres
Publié: (2024)
par: Wang, Haoyu, et autres
Publié: (2024)
Fine-Tuning LLMs for Low-Resource Dialect Translation: The Case of Lebanese
par: Yakhni, Silvana, et autres
Publié: (2025)
par: Yakhni, Silvana, et autres
Publié: (2025)
Supervised Fine-Tuning or In-Context Learning? Evaluating LLMs for Clinical NER
par: Baroian, Andrei
Publié: (2025)
par: Baroian, Andrei
Publié: (2025)
Question Answering on Patient Medical Records with Private Fine-Tuned LLMs
par: Kothari, Sara, et autres
Publié: (2025)
par: Kothari, Sara, et autres
Publié: (2025)
TuCo: Measuring the Contribution of Fine-Tuning to Individual Responses of LLMs
par: Nuti, Felipe, et autres
Publié: (2025)
par: Nuti, Felipe, et autres
Publié: (2025)
Diffusion-Inspired Masked Fine-Tuning for Knowledge Injection in Autoregressive LLMs
par: Pan, Xu, et autres
Publié: (2025)
par: Pan, Xu, et autres
Publié: (2025)
Incivility and Rigidity: Evaluating the Risks of Fine-Tuning LLMs for Political Argumentation
par: Churina, Svetlana, et autres
Publié: (2024)
par: Churina, Svetlana, et autres
Publié: (2024)
60 Data Points are Sufficient to Fine-Tune LLMs for Question-Answering
par: Ye, Junjie, et autres
Publié: (2024)
par: Ye, Junjie, et autres
Publié: (2024)
Aloe: A Family of Fine-tuned Open Healthcare LLMs
par: Gururajan, Ashwin Kumar, et autres
Publié: (2024)
par: Gururajan, Ashwin Kumar, et autres
Publié: (2024)
NEFMind: Parameter-Efficient Fine-Tuning of Open-Source LLMs for Telecom APIs Automation
par: Khan, Zainab, et autres
Publié: (2025)
par: Khan, Zainab, et autres
Publié: (2025)
TACOS: Open Tagging and Comparative Scoring for Instruction Fine-Tuning Data Selection
par: He, Xixiang, et autres
Publié: (2025)
par: He, Xixiang, et autres
Publié: (2025)
Prompting and Fine-Tuning Open-Sourced Large Language Models for Stance Classification
par: Cruickshank, Iain J., et autres
Publié: (2023)
par: Cruickshank, Iain J., et autres
Publié: (2023)
Inference-time Alignment via Sparse Junction Steering
par: Hu, Runyi, et autres
Publié: (2026)
par: Hu, Runyi, et autres
Publié: (2026)
Team-Based Self-Play With Dual Adaptive Weighting for Fine-Tuning LLMs
par: Li, Wu, et autres
Publié: (2026)
par: Li, Wu, et autres
Publié: (2026)
A Comparative Analysis of Instruction Fine-Tuning LLMs for Financial Text Classification
par: Fatemi, Sorouralsadat, et autres
Publié: (2024)
par: Fatemi, Sorouralsadat, et autres
Publié: (2024)
PAFT: Prompt-Agnostic Fine-Tuning
par: Wei, Chenxing, et autres
Publié: (2025)
par: Wei, Chenxing, et autres
Publié: (2025)
Hierarchical Alignment: Surgical Fine-Tuning via Functional Layer Specialization in Large Language Models
par: Zhang, Yukun, et autres
Publié: (2025)
par: Zhang, Yukun, et autres
Publié: (2025)
Psychological Steering in LLMs: An Evaluation of Effectiveness and Trustworthiness
par: Banayeeanzade, Amin, et autres
Publié: (2025)
par: Banayeeanzade, Amin, et autres
Publié: (2025)
KV Cache Steering for Controlling Frozen LLMs
par: Belitsky, Max, et autres
Publié: (2025)
par: Belitsky, Max, et autres
Publié: (2025)
Tuning LLMs with Contrastive Alignment Instructions for Machine Translation in Unseen, Low-resource Languages
par: Mao, Zhuoyuan, et autres
Publié: (2024)
par: Mao, Zhuoyuan, et autres
Publié: (2024)
Rethinking Scale: The Efficacy of Fine-Tuned Open-Source LLMs in Large-Scale Reproducible Social Science Research
par: Carammia, Marcello, et autres
Publié: (2024)
par: Carammia, Marcello, et autres
Publié: (2024)
SafeSteer: Localized On-Policy Distillation for Efficient Safety Alignment
par: Li, Hao, et autres
Publié: (2026)
par: Li, Hao, et autres
Publié: (2026)
Tradeoffs Between Alignment and Helpfulness in Language Models with Steering Methods
par: Wolf, Yotam, et autres
Publié: (2024)
par: Wolf, Yotam, et autres
Publié: (2024)
Teaching LLMs How to Learn with Contextual Fine-Tuning
par: Choi, Younwoo, et autres
Publié: (2025)
par: Choi, Younwoo, et autres
Publié: (2025)
Documents similaires
-
Steering Out-of-Distribution Generalization with Concept Ablation Fine-Tuning
par: Casademunt, Helena, et autres
Publié: (2025) -
Middle-Layer Representation Alignment for Cross-Lingual Transfer in Fine-Tuned LLMs
par: Liu, Danni, et autres
Publié: (2025) -
When Do LLMs Reason? A Dynamical Systems View via Entropy Phase Transitions
par: Xia, Wei, et autres
Publié: (2026) -
Direct Alignment of Draft Model for Speculative Decoding with Chat-Fine-Tuned LLMs
par: Goel, Raghavv, et autres
Publié: (2024) -
GraphGen: Enhancing Supervised Fine-Tuning for LLMs with Knowledge-Driven Synthetic Data Generation
par: Chen, Zihong, et autres
Publié: (2025)