Buchumschlag

Surgical Knowledge Rewrite in Compact LLMs: An 'Unlearn-then-Learn' Strategy with ($IA^3$) for Localized Factual Modulation and Catastrophic Forgetting Mitigation

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
1. Verfasser:	Ngugi, Stanley
Format:	Preprint
Veröffentlicht:	2025
Schlagworte:	Machine Learning Artificial Intelligence
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Sequencing to Mitigate Catastrophic Forgetting in Continual Learning
von: Moussa, Hesham G., et al.
Veröffentlicht: (2025)

Evolutionary Strategies lead to Catastrophic Forgetting in LLMs
von: Abdi, Immanuel, et al.
Veröffentlicht: (2026)

CORE: Mitigating Catastrophic Forgetting in Continual Learning through Cognitive Replay
von: Zhang, Jianshu, et al.
Veröffentlicht: (2024)

Catastrophic Forgetting Mitigation Through Plateau Phase Activity Profiling
von: Mashiach, Idan, et al.
Veröffentlicht: (2025)

Revisiting Catastrophic Forgetting in Continual Knowledge Graph Embedding
von: Pons, Gerard, et al.
Veröffentlicht: (2026)

Can LLMs Alleviate Catastrophic Forgetting in Graph Continual Learning? A Systematic Study
von: Cheng, Ziyang, et al.
Veröffentlicht: (2025)

Continual Deep Reinforcement Learning to Prevent Catastrophic Forgetting in Jamming Mitigation
von: Davaslioglu, Kemal, et al.
Veröffentlicht: (2024)

On the Implicit Adversariality of Catastrophic Forgetting in Deep Continual Learning
von: Peng, Ze, et al.
Veröffentlicht: (2025)

Addressing Loss of Plasticity and Catastrophic Forgetting in Continual Learning
von: Elsayed, Mohamed, et al.
Veröffentlicht: (2024)

Unlocking the Power of Function Vectors for Characterizing and Mitigating Catastrophic Forgetting in Continual Instruction Tuning
von: Jiang, Gangwei, et al.
Veröffentlicht: (2025)

Catastrophic Forgetting in Kolmogorov-Arnold Networks
von: Rahman, Mohammad Marufur, et al.
Veröffentlicht: (2025)

CURLoRA: Stable LLM Continual Fine-Tuning and Catastrophic Forgetting Mitigation
von: Fawi, Muhammad
Veröffentlicht: (2024)

Catastrophic Forgetting Mitigation via Discrepancy-Weighted Experience Replay
von: Xu, Xinrun, et al.
Veröffentlicht: (2025)

Towards Mitigating Excessive Forgetting in LLM Unlearning via Entanglement-Guidance with Proxy Constraint
von: Liu, Zhihao, et al.
Veröffentlicht: (2025)

Analyzing Mitigation Strategies for Catastrophic Forgetting in End-to-End Training of Spoken Language Models
von: Hsiao, Chi-Yuan, et al.
Veröffentlicht: (2025)

A Conformal Predictive Measure for Assessing Catastrophic Forgetting
von: Pitsiorlas, Ioannis, et al.
Veröffentlicht: (2025)

Quantifying Catastrophic Forgetting in IoT Intrusion Detection Systems
von: Banerjee, Sourasekhar, et al.
Veröffentlicht: (2026)

Continual Learning and Catastrophic Forgetting
von: van de Ven, Gido M., et al.
Veröffentlicht: (2024)

Probing Knowledge Holes in Unlearned LLMs
von: Ko, Myeongseob, et al.
Veröffentlicht: (2025)

Explaining Robustness to Catastrophic Forgetting Through Incremental Concept Formation
von: Barari, Nicki, et al.
Veröffentlicht: (2025)

Intelligent Learning Rate Distribution to reduce Catastrophic Forgetting in Transformers
von: Kenneweg, Philip, et al.
Veröffentlicht: (2024)

How to Leverage Predictive Uncertainty Estimates for Reducing Catastrophic Forgetting in Online Continual Learning
von: Serra, Giuseppe, et al.
Veröffentlicht: (2024)

QUAIL: Quantization Aware Unlearning for Mitigating Misinformation in LLMs
von: Mishra, Himanshu, et al.
Veröffentlicht: (2026)

Dynamic Orthogonal Continual Fine-tuning for Mitigating Catastrophic Forgettings
von: Zhang, Zhixin, et al.
Veröffentlicht: (2025)

Self-Distillation as a Performance Recovery Mechanism for LLMs: Counteracting Compression and Catastrophic Forgetting
von: Liu, Chi, et al.
Veröffentlicht: (2026)

Forget and Explain: Transparent Verification of GNN Unlearning
von: Ahsan, Imran, et al.
Veröffentlicht: (2025)

Beyond Superficial Forgetting: Thorough Unlearning through Knowledge Density Estimation and Block Re-insertion
von: Guo, Feng, et al.
Veröffentlicht: (2025)

Overcoming Catastrophic Forgetting by Exemplar Selection in Task-oriented Dialogue System
von: Chen, Chen, et al.
Veröffentlicht: (2024)

Gradient Correlation Subspace Learning against Catastrophic Forgetting
von: Dubnov, Tammuz, et al.
Veröffentlicht: (2024)

Mitigating Catastrophic Forgetting and Mode Collapse in Text-to-Image Diffusion via Latent Replay
von: Otani, Aoi
Veröffentlicht: (2025)

Analyzing and Reducing Catastrophic Forgetting in Parameter Efficient Tuning
von: Ren, Weijieying, et al.
Veröffentlicht: (2024)

A Methodology-Oriented Study of Catastrophic Forgetting in Incremental Deep Neural Networks
von: Kumar, Ashutosh, et al.
Veröffentlicht: (2024)

Overcoming Catastrophic Forgetting in Tabular Data Classification: A Pseudorehearsal-based approach
von: García-Santaclara, Pablo, et al.
Veröffentlicht: (2024)

Natural Mitigation of Catastrophic Interference: Continual Learning in Power-Law Learning Environments
von: Gandhi, Atith, et al.
Veröffentlicht: (2024)

Don't Forget It! Conditional Sparse Autoencoder Clamping Works for Unlearning
von: Khoriaty, Matthew, et al.
Veröffentlicht: (2025)

Stable Forgetting: Bounded Parameter-Efficient Unlearning in Foundation Models
von: Garg, Arpit, et al.
Veröffentlicht: (2025)

Forgetting is Competition: Rethinking Unlearning as Representation Interference in Diffusion Models
von: Ranjan, Ashutosh, et al.
Veröffentlicht: (2026)

FedRef: Bayesian Fine-Tuning using a Reference Model to Mitigate Catastrophic Forgetting for Heterogeneous Federated Learning
von: Yoon, Taehwan, et al.
Veröffentlicht: (2025)

BadSampler: Harnessing the Power of Catastrophic Forgetting to Poison Byzantine-robust Federated Learning
von: Liu, Yi, et al.
Veröffentlicht: (2024)

SNAP: Stopping Catastrophic Forgetting in Hebbian Learning with Sigmoidal Neuronal Adaptive Plasticity
von: Xu, Tianyi, et al.
Veröffentlicht: (2024)