Buchumschlag

Chained Tuning Leads to Biased Forgetting

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Ung, Megan, Sun, Alicia, Bell, Samuel J., Radharapu, Bhaktipriya, Sagun, Levent, Williams, Adina
Format:	Preprint
Veröffentlicht:	2024
Schlagworte:	Computation and Language
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Arbiters of Ambivalence: Challenges of Using LLMs in No-Consensus Tasks
von: Radharapu, Bhaktipriya, et al.
Veröffentlicht: (2025)

Debiasing Text Safety Classifiers through a Fairness-Aware Ensemble
von: Sturman, Olivia, et al.
Veröffentlicht: (2024)

LLM Knowledge is Brittle: Truthfulness Representations Rely on Superficial Resemblance
von: Haller, Patrick, et al.
Veröffentlicht: (2025)

Changing Answer Order Can Decrease MMLU Accuracy
von: Gupta, Vipul, et al.
Veröffentlicht: (2024)

Beg to Differ: Understanding Reasoning-Answer Misalignment Across Languages
von: Ovalle, Anaelia, et al.
Veröffentlicht: (2025)

On the Role of Speech Data in Reducing Toxicity Detection Bias
von: Bell, Samuel J., et al.
Veröffentlicht: (2024)

RealSeal: Revolutionizing Media Authentication with Real-Time Realism Scoring
von: Radharapu, Bhaktipriya, et al.
Veröffentlicht: (2024)

The Root Shapes the Fruit: On the Persistence of Gender-Exclusive Harms in Aligned Language Models
von: Ovalle, Anaelia, et al.
Veröffentlicht: (2024)

Improving Model Evaluation using SMART Filtering of Benchmark Datasets
von: Gupta, Vipul, et al.
Veröffentlicht: (2024)

Calibrating LLM Judges: Linear Probes for Fast and Reliable Uncertainty Estimation
von: Radharapu, Bhaktipriya, et al.
Veröffentlicht: (2025)

An Effective Theory of Bias Amplification
von: Subramonian, Arjun, et al.
Veröffentlicht: (2024)

Learning the Wrong Lessons: Syntactic-Domain Spurious Correlations in Language Models
von: Shaib, Chantal, et al.
Veröffentlicht: (2025)

Reassessing the Validity of Spurious Correlations Benchmarks
von: Bell, Samuel J., et al.
Veröffentlicht: (2024)

ShieldGemma: Generative AI Content Moderation Based on Gemma
von: Zeng, Wenjun, et al.
Veröffentlicht: (2024)

Weisfeiler and Leman Go Measurement Modeling: Probing the Validity of the WL Test
von: Subramonian, Arjun, et al.
Veröffentlicht: (2023)

Stuffed Mamba: Oversized States Lead to the Inability to Forget
von: Chen, Yingfa, et al.
Veröffentlicht: (2024)

Are Female Carpenters like Blue Bananas? A Corpus Investigation of Occupation Gender Typicality
von: Ju, Da, et al.
Veröffentlicht: (2024)

Domain Regeneration: How well do LLMs match syntactic properties of text domains?
von: Ju, Da, et al.
Veröffentlicht: (2025)

Mitigating Forgetting in LLM Fine-Tuning via Low-Perplexity Token Learning
von: Wu, Chao-Chung, et al.
Veröffentlicht: (2025)

Networked Inequality: Preferential Attachment Bias in Graph Neural Network Link Prediction
von: Subramonian, Arjun, et al.
Veröffentlicht: (2023)

Bias-Augmented Consistency Training Reduces Biased Reasoning in Chain-of-Thought
von: Chua, James, et al.
Veröffentlicht: (2024)

Revisiting Catastrophic Forgetting in Large Language Model Tuning
von: Li, Hongyu, et al.
Veröffentlicht: (2024)

Joint Flashback Adaptation for Forgetting-Resistant Instruction Tuning
von: Zhao, Yukun, et al.
Veröffentlicht: (2025)

Preventing Catastrophic Forgetting: Behavior-Aware Sampling for Safer Language Model Fine-Tuning
von: Pham, Anh, et al.
Veröffentlicht: (2025)

What makes a good metric? Evaluating automatic metrics for text-to-image consistency
von: Ross, Candace, et al.
Veröffentlicht: (2024)

Analyzing and Reducing Catastrophic Forgetting in Parameter Efficient Tuning
von: Ren, Weijieying, et al.
Veröffentlicht: (2024)

Exploring Forgetting in Large Language Model Pre-Training
von: Liao, Chonghua, et al.
Veröffentlicht: (2024)

The Causal Influence of Grammatical Gender on Distributional Semantics
von: Stańczak, Karolina, et al.
Veröffentlicht: (2023)

Fine-Tune, Don't Prompt, Your Language Model to Identify Biased Language in Clinical Notes
von: Landi, Isotta, et al.
Veröffentlicht: (2026)

Measuring Catastrophic Forgetting in Cross-Lingual Transfer Paradigms: Exploring Tuning Strategies
von: Koloski, Boshko, et al.
Veröffentlicht: (2023)

Improved Supervised Fine-Tuning for Large Language Models to Mitigate Catastrophic Forgetting
von: Ding, Fei, et al.
Veröffentlicht: (2025)

A Latent-Variable Model for Intrinsic Probing
von: Stańczak, Karolina, et al.
Veröffentlicht: (2022)

On the Impact of Fine-Tuning on Chain-of-Thought Reasoning
von: Lobo, Elita, et al.
Veröffentlicht: (2024)

"Pull or Not to Pull?'': Investigating Moral Biases in Leading Large Language Models Across Ethical Dilemmas
von: Ding, Junchen, et al.
Veröffentlicht: (2025)

OPLoRA: Orthogonal Projection LoRA Prevents Catastrophic Forgetting during Parameter-Efficient Fine-Tuning
von: Xiong, Yifeng, et al.
Veröffentlicht: (2025)

Reinforcement Fine-Tuning Naturally Mitigates Forgetting in Continual Post-Training
von: Lai, Song, et al.
Veröffentlicht: (2025)

Entropy-Adaptive Fine-Tuning: Resolving Confident Conflicts to Mitigate Forgetting
von: Diao, Muxi, et al.
Veröffentlicht: (2026)

White Men Lead, Black Women Help? Benchmarking and Mitigating Language Agency Social Biases in LLMs
von: Wan, Yixin, et al.
Veröffentlicht: (2024)

Fine-Tuning Without Forgetting In-Context Learning: A Theoretical Analysis of Linear Attention Models
von: Lee, Chungpa, et al.
Veröffentlicht: (2026)

Do different prompting methods yield a common task representation in language models?
von: Davidson, Guy, et al.
Veröffentlicht: (2025)