Buchumschlag

Leak@$k$: Unlearning Does Not Make LLMs Forget Under Probabilistic Decoding

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Reisizadeh, Hadi, Ruan, Jiajun, Chen, Yiwei, Pal, Soumyadeep, Liu, Sijia, Hong, Mingyi
Format:	Preprint
Veröffentlicht:	2025
Schlagworte:	Machine Learning
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Unlearning Isn't Invisible: Detecting Unlearning Traces in LLMs from Model Outputs
von: Chen, Yiwei, et al.
Veröffentlicht: (2025)

EPiC: Towards Lossless Speedup for Reasoning Training through Edge-Preserving CoT Condensation
von: Jia, Jinghan, et al.
Veröffentlicht: (2025)

BLUR: A Bi-Level Optimization Approach for LLM Unlearning
von: Reisizadeh, Hadi, et al.
Veröffentlicht: (2025)

LLM Unlearning Under the Microscope: A Full-Stack View on Methods and Metrics
von: Fan, Chongyu, et al.
Veröffentlicht: (2025)

Forgetting to Forget: Attention Sink as A Gateway for Backdooring LLM Unlearning
von: Shang, Bingqi, et al.
Veröffentlicht: (2025)

Invariance Makes LLM Unlearning Resilient Even to Unanticipated Downstream Fine-Tuning
von: Wang, Changsheng, et al.
Veröffentlicht: (2025)

LLM Unlearning Reveals a Stronger-Than-Expected Coreset Effect in Current Benchmarks
von: Pal, Soumyadeep, et al.
Veröffentlicht: (2025)

Challenging Forgets: Unveiling the Worst-Case Forget Sets in Machine Unlearning
von: Fan, Chongyu, et al.
Veröffentlicht: (2024)

Towards LLM Unlearning Resilient to Relearning Attacks: A Sharpness-Aware Minimization Perspective and Beyond
von: Fan, Chongyu, et al.
Veröffentlicht: (2025)

PrivUn: Unveiling Latent Ripple Effects and Shallow Forgetting in Privacy Unlearning
von: Chen, Xiaoyi, et al.
Veröffentlicht: (2026)

LLM Unlearning on Noisy Forget Sets: A Study of Incomplete, Rewritten, and Watermarked Data
von: Wang, Changsheng, et al.
Veröffentlicht: (2025)

Machine Unlearning for Streaming Forgetting
von: Shen, Shaofei, et al.
Veröffentlicht: (2025)

Unlearning or Obfuscating? Jogging the Memory of Unlearned LLMs via Benign Relearning
von: Hu, Shengyuan, et al.
Veröffentlicht: (2024)

Backdoor Secrets Unveiled: Identifying Backdoor Data with Optimized Scaled Prediction Consistency
von: Pal, Soumyadeep, et al.
Veröffentlicht: (2024)

BLUR: A Benchmark for LLM Unlearning Robust to Forget-Retain Overlap
von: Hu, Shengyuan, et al.
Veröffentlicht: (2025)

Is Gradient Ascent Really Necessary? Memorize to Forget for Machine Unlearning
von: Huang, Zhuo, et al.
Veröffentlicht: (2026)

Unlearning That Lasts: Utility-Preserving, Robust, and Almost Irreversible Forgetting in LLMs
von: Singh, Naman Deep, et al.
Veröffentlicht: (2025)

Unlearning Imperative: Securing Trustworthy and Responsible LLMs through Engineered Forgetting
von: Kang, James Jin, et al.
Veröffentlicht: (2025)

Reasoning Model Unlearning: Forgetting Traces, Not Just Answers, While Preserving Reasoning Skills
von: Wang, Changsheng, et al.
Veröffentlicht: (2025)

Graph Neural Networks for Travel Distance Estimation and Route Recommendation Under Probabilistic Hazards
von: Liu, Tong, et al.
Veröffentlicht: (2025)

Tool Unlearning for Tool-Augmented LLMs
von: Cheng, Jiali, et al.
Veröffentlicht: (2025)

Forget Vectors at Play: Universal Input Perturbations Driving Machine Unlearning in Image Classification
von: Sun, Changchang, et al.
Veröffentlicht: (2024)

Safety Mirage: How Spurious Correlations Undermine VLM Safety Fine-Tuning and Can Be Mitigated by Machine Unlearning
von: Chen, Yiwei, et al.
Veröffentlicht: (2025)

Machine Unlearning under Retain-Forget Entanglement
von: Cheng, Jingpu, et al.
Veröffentlicht: (2026)

Forgetting Has Neighbors: Localized Collateral Forgetting in Machine Unlearning
von: Dolgova, Polina, et al.
Veröffentlicht: (2026)

Rethinking Muon Beyond Pretraining: Spectral Failures and High-Pass Remedies for VLA and RLVR
von: Fan, Chongyu, et al.
Veröffentlicht: (2026)

Do LLMs Really Forget? Evaluating Unlearning with Knowledge Correlation and Confidence Awareness
von: Wei, Rongzhe, et al.
Veröffentlicht: (2025)

CUFG: Curriculum Unlearning Guided by the Forgetting Gradient
von: Miao, Jiaxing, et al.
Veröffentlicht: (2025)

Representation Unlearning: Forgetting through Information Compression
von: Almudévar, Antonio, et al.
Veröffentlicht: (2026)

Bias Redistribution in Visual Machine Unlearning: Does Forgetting One Group Harm Another?
von: Haruna, Yunusa, et al.
Veröffentlicht: (2026)

Easy to Learn, Yet Hard to Forget: Towards Robust Unlearning Under Bias
von: Kwon, JuneHyoung, et al.
Veröffentlicht: (2026)

Class-wise Federated Unlearning: Harnessing Active Forgetting with Teacher-Student Memory Generation
von: Li, Yuyuan, et al.
Veröffentlicht: (2023)

UCD: Unlearning in LLMs via Contrastive Decoding
von: Suriyakumar, Vinith M., et al.
Veröffentlicht: (2025)

SEUF: Is Unlearning One Expert Enough for Mixture-of-Experts LLMs?
von: Zhuang, Haomin, et al.
Veröffentlicht: (2024)

Tackling Fake Forgetting through Uncertainty Quantification
von: Shi, Yingdan, et al.
Veröffentlicht: (2025)

Label-Agnostic Forgetting: A Supervision-Free Unlearning in Deep Models
von: Shen, Shaofei, et al.
Veröffentlicht: (2024)

Forgetting to Witness: Efficient Federated Unlearning and Its Visible Evaluation
von: Wang, Houzhe, et al.
Veröffentlicht: (2026)

Forget and Explain: Transparent Verification of GNN Unlearning
von: Ahsan, Imran, et al.
Veröffentlicht: (2025)

The Alignment Tax: Response Homogenization in Aligned LLMs and Its Implications for Uncertainty Estimation
von: Liu, Mingyi
Veröffentlicht: (2026)

Probabilistic Reasoning with LLMs for k-anonymity Estimation
von: Zheng, Jonathan, et al.
Veröffentlicht: (2025)