Replay Can Provably Increase Forgetting
Fuente:
arXiv
Gespeichert in:
| Hauptverfasser: | Mahdaviyeh, Yasaman, Lucas, James, Ren, Mengye, Tolias, Andreas S., Zemel, Richard, Pitassi, Toniann |
|---|---|
| Format: | Preprint |
| Veröffentlicht: |
2025
|
| Schlagworte: | |
| Online-Zugang: | |
| Tags: |
Tag hinzufügen
Keine Tags, Fügen Sie den ersten Tag hinzu!
|
Ähnliche Einträge
Distribution-Free Statistical Dispersion Control for Societal Applications
von: Deng, Zhun, et al.
Veröffentlicht: (2023)
von: Deng, Zhun, et al.
Veröffentlicht: (2023)
Improving Predictor Reliability with Selective Recalibration
von: Zollo, Thomas P., et al.
Veröffentlicht: (2024)
von: Zollo, Thomas P., et al.
Veröffentlicht: (2024)
Prompt Risk Control: A Rigorous Framework for Responsible Deployment of Large Language Models
von: Zollo, Thomas P., et al.
Veröffentlicht: (2023)
von: Zollo, Thomas P., et al.
Veröffentlicht: (2023)
Poly-attention: a general scheme for higher-order self-attention
von: Chakrabarti, Sayak, et al.
Veröffentlicht: (2026)
von: Chakrabarti, Sayak, et al.
Veröffentlicht: (2026)
Every Bit Counts: A Theoretical Study of Precision-Expressivity Tradeoffs in Quantized Transformers
von: Chakrabarti, Sayak, et al.
Veröffentlicht: (2026)
von: Chakrabarti, Sayak, et al.
Veröffentlicht: (2026)
Differential privacy from axioms
von: Blanc, Guy, et al.
Veröffentlicht: (2025)
von: Blanc, Guy, et al.
Veröffentlicht: (2025)
Integrating Present and Past in Unsupervised Continual Learning
von: Zhang, Yipeng, et al.
Veröffentlicht: (2024)
von: Zhang, Yipeng, et al.
Veröffentlicht: (2024)
Learning and Forgetting Unsafe Examples in Large Language Models
von: Zhao, Jiachen, et al.
Veröffentlicht: (2023)
von: Zhao, Jiachen, et al.
Veröffentlicht: (2023)
Seeking the Unfamiliar but Memorable: Conceptual Creativity as Meta-Learning
von: Ren, Mengye
Veröffentlicht: (2026)
von: Ren, Mengye
Veröffentlicht: (2026)
Online Algorithmic Recourse by Collective Action
von: Creager, Elliot, et al.
Veröffentlicht: (2023)
von: Creager, Elliot, et al.
Veröffentlicht: (2023)
Forgetting in Language Models: Capacity, Optimization, and Self-Generated Replay
von: Marek, Martin, et al.
Veröffentlicht: (2026)
von: Marek, Martin, et al.
Veröffentlicht: (2026)
Local Reinforcement Learning with Action-Conditioned Root Mean Squared Q-Functions
von: Wu, Frank, et al.
Veröffentlicht: (2025)
von: Wu, Frank, et al.
Veröffentlicht: (2025)
Eidetic Learning: an Efficient and Provable Solution to Catastrophic Forgetting
von: Dronen, Nicholas, et al.
Veröffentlicht: (2025)
von: Dronen, Nicholas, et al.
Veröffentlicht: (2025)
Confidence Calibration in Vision-Language-Action Models
von: Zollo, Thomas P, et al.
Veröffentlicht: (2025)
von: Zollo, Thomas P, et al.
Veröffentlicht: (2025)
Midway Network: Learning Representations for Recognition and Motion from Latent Dynamics
von: Hoang, Christopher, et al.
Veröffentlicht: (2025)
von: Hoang, Christopher, et al.
Veröffentlicht: (2025)
Memory Storyboard: Leveraging Temporal Segmentation for Streaming Self-Supervised Learning from Egocentric Videos
von: Yang, Yanlai, et al.
Veröffentlicht: (2025)
von: Yang, Yanlai, et al.
Veröffentlicht: (2025)
Unsupervised Confidence Calibration for Reasoning LLMs from a Single Generation
von: Zollo, Thomas, et al.
Veröffentlicht: (2026)
von: Zollo, Thomas, et al.
Veröffentlicht: (2026)
Few-Shot Design Optimization by Exploiting Auxiliary Information
von: Mani, Arjun, et al.
Veröffentlicht: (2026)
von: Mani, Arjun, et al.
Veröffentlicht: (2026)
CORE: Mitigating Catastrophic Forgetting in Continual Learning through Cognitive Replay
von: Zhang, Jianshu, et al.
Veröffentlicht: (2024)
von: Zhang, Jianshu, et al.
Veröffentlicht: (2024)
Logits Replay + MoClip: Stabilized, Low-Cost Post-Training with Minimal Forgetting
von: Qiu, Suming, et al.
Veröffentlicht: (2025)
von: Qiu, Suming, et al.
Veröffentlicht: (2025)
Adapt or Forget: Provable Tradeoffs Between Adam and SGD in Nonstationary Optimization
von: Sahu, Sharan, et al.
Veröffentlicht: (2026)
von: Sahu, Sharan, et al.
Veröffentlicht: (2026)
Defense without Forgetting: Continual Adversarial Defense with Anisotropic & Isotropic Pseudo Replay
von: Zhou, Yuhang, et al.
Veröffentlicht: (2024)
von: Zhou, Yuhang, et al.
Veröffentlicht: (2024)
In-Context Clustering with Large Language Models
von: Wang, Ying, et al.
Veröffentlicht: (2025)
von: Wang, Ying, et al.
Veröffentlicht: (2025)
Replay-and-Forget-Free Graph Class-Incremental Learning: A Task Profiling and Prompting Approach
von: Niu, Chaoxi, et al.
Veröffentlicht: (2024)
von: Niu, Chaoxi, et al.
Veröffentlicht: (2024)
Provable Effects of Data Replay in Continual Learning: A Feature Learning Perspective
von: Ding, Meng, et al.
Veröffentlicht: (2026)
von: Ding, Meng, et al.
Veröffentlicht: (2026)
Tell Me What To Learn: Generalizing Neural Memory to be Controllable in Natural Language
von: Bennett, Max S., et al.
Veröffentlicht: (2026)
von: Bennett, Max S., et al.
Veröffentlicht: (2026)
Test-Time Warmup for Multimodal Large Language Models
von: Rajaneesh, Nikita, et al.
Veröffentlicht: (2025)
von: Rajaneesh, Nikita, et al.
Veröffentlicht: (2025)
Catastrophic Forgetting Mitigation via Discrepancy-Weighted Experience Replay
von: Xu, Xinrun, et al.
Veröffentlicht: (2025)
von: Xu, Xinrun, et al.
Veröffentlicht: (2025)
May the Forgetting Be with You: Alternate Replay for Learning with Noisy Labels
von: Millunzi, Monica, et al.
Veröffentlicht: (2024)
von: Millunzi, Monica, et al.
Veröffentlicht: (2024)
KoReA-SFL: Knowledge Replay-based Split Federated Learning Against Catastrophic Forgetting
von: Xia, Zeke, et al.
Veröffentlicht: (2024)
von: Xia, Zeke, et al.
Veröffentlicht: (2024)
FOREVER: Forgetting Curve-Inspired Memory Replay for Language Model Continual Learning
von: Feng, Yujie, et al.
Veröffentlicht: (2026)
von: Feng, Yujie, et al.
Veröffentlicht: (2026)
LifelongMemory: Leveraging LLMs for Answering Queries in Long-form Egocentric Videos
von: Wang, Ying, et al.
Veröffentlicht: (2023)
von: Wang, Ying, et al.
Veröffentlicht: (2023)
Are LLMs Prescient? A Continuous Evaluation using Daily News as the Oracle
von: Dai, Hui, et al.
Veröffentlicht: (2024)
von: Dai, Hui, et al.
Veröffentlicht: (2024)
Fully-Fluctuating Participation in Sleepy Consensus
von: Efron, Yuval, et al.
Veröffentlicht: (2025)
von: Efron, Yuval, et al.
Veröffentlicht: (2025)
Federated Learning Under Temporal Drift -- Mitigating Catastrophic Forgetting via Experience Replay
von: Kokkula, Sahasra, et al.
Veröffentlicht: (2026)
von: Kokkula, Sahasra, et al.
Veröffentlicht: (2026)
Continual Learning: Less Forgetting, More OOD Generalization via Adaptive Contrastive Replay
von: Rezaei, Hossein, et al.
Veröffentlicht: (2024)
von: Rezaei, Hossein, et al.
Veröffentlicht: (2024)
Provably effective detection of effective data poisoning attacks
von: Gallagher, Jonathan, et al.
Veröffentlicht: (2025)
von: Gallagher, Jonathan, et al.
Veröffentlicht: (2025)
TFGN: Task-Free, Replay-Free Continual Pre-Training Without Catastrophic Forgetting at LLM Scale
von: Ganguli, Anurup
Veröffentlicht: (2026)
von: Ganguli, Anurup
Veröffentlicht: (2026)
Malign Overfitting: Interpolation Can Provably Preclude Invariance
von: Wald, Yoav, et al.
Veröffentlicht: (2022)
von: Wald, Yoav, et al.
Veröffentlicht: (2022)
Level Up: Defining and Exploiting Transitional Problems for Curriculum Learning
von: Tang, Zhenwei, et al.
Veröffentlicht: (2026)
von: Tang, Zhenwei, et al.
Veröffentlicht: (2026)
Ähnliche Einträge
-
Distribution-Free Statistical Dispersion Control for Societal Applications
von: Deng, Zhun, et al.
Veröffentlicht: (2023) -
Improving Predictor Reliability with Selective Recalibration
von: Zollo, Thomas P., et al.
Veröffentlicht: (2024) -
Prompt Risk Control: A Rigorous Framework for Responsible Deployment of Large Language Models
von: Zollo, Thomas P., et al.
Veröffentlicht: (2023) -
Poly-attention: a general scheme for higher-order self-attention
von: Chakrabarti, Sayak, et al.
Veröffentlicht: (2026) -
Every Bit Counts: A Theoretical Study of Precision-Expressivity Tradeoffs in Quantized Transformers
von: Chakrabarti, Sayak, et al.
Veröffentlicht: (2026)