Reawakening knowledge: Anticipatory recovery from catastrophic interference via structured training
Fuente:
arXiv
Salvato in:
| Autori principali: | Yang, Yanlai, Jones, Matt, Mozer, Michael C., Ren, Mengye |
|---|---|
| Natura: | Preprint |
| Pubblicazione: |
2024
|
| Soggetti: | |
| Accesso online: | |
| Tags: |
Aggiungi Tag
Nessun Tag, puoi essere il primo ad aggiungerne!!
|
Documenti analoghi
Memory Storyboard: Leveraging Temporal Segmentation for Streaming Self-Supervised Learning from Egocentric Videos
di: Yang, Yanlai, et al.
Pubblicazione: (2025)
di: Yang, Yanlai, et al.
Pubblicazione: (2025)
LifelongMemory: Leveraging LLMs for Answering Queries in Long-form Egocentric Videos
di: Wang, Ying, et al.
Pubblicazione: (2023)
di: Wang, Ying, et al.
Pubblicazione: (2023)
Are LLMs Prescient? A Continuous Evaluation using Daily News as the Oracle
di: Dai, Hui, et al.
Pubblicazione: (2024)
di: Dai, Hui, et al.
Pubblicazione: (2024)
Context Tuning for In-Context Optimization
di: Lu, Jack, et al.
Pubblicazione: (2025)
di: Lu, Jack, et al.
Pubblicazione: (2025)
Anticipatory Evaluation of Language Models
di: Park, Jungsoo, et al.
Pubblicazione: (2025)
di: Park, Jungsoo, et al.
Pubblicazione: (2025)
Learning and Forgetting Unsafe Examples in Large Language Models
di: Zhao, Jiachen, et al.
Pubblicazione: (2023)
di: Zhao, Jiachen, et al.
Pubblicazione: (2023)
Aligning LLMs with Human Uncertainty: A Beta-Bernoulli Calibrator for LLM Forecasting
di: Dai, Hui, et al.
Pubblicazione: (2026)
di: Dai, Hui, et al.
Pubblicazione: (2026)
Decoupling the "What" and "Where" With Polar Coordinate Positional Embeddings
di: Gopalakrishnan, Anand, et al.
Pubblicazione: (2025)
di: Gopalakrishnan, Anand, et al.
Pubblicazione: (2025)
Seeking the Unfamiliar but Memorable: Conceptual Creativity as Meta-Learning
di: Ren, Mengye
Pubblicazione: (2026)
di: Ren, Mengye
Pubblicazione: (2026)
LURE: Latent Space Unblocking for Multi-Concept Reawakening in Diffusion Models
di: Sun, Mengyu, et al.
Pubblicazione: (2026)
di: Sun, Mengyu, et al.
Pubblicazione: (2026)
Midway Network: Learning Representations for Recognition and Motion from Latent Dynamics
di: Hoang, Christopher, et al.
Pubblicazione: (2025)
di: Hoang, Christopher, et al.
Pubblicazione: (2025)
Mechanistic origins of catastrophic forgetting: why RL preserves circuits better than SFT?
di: Nunez, Jeanmely Rojas, et al.
Pubblicazione: (2026)
di: Nunez, Jeanmely Rojas, et al.
Pubblicazione: (2026)
Using Pre-trained LLMs for Multivariate Time Series Forecasting
di: Wolff, Malcolm L., et al.
Pubblicazione: (2025)
di: Wolff, Malcolm L., et al.
Pubblicazione: (2025)
A General Framework for Inference-time Scaling and Steering of Diffusion Models
di: Singhal, Raghav, et al.
Pubblicazione: (2025)
di: Singhal, Raghav, et al.
Pubblicazione: (2025)
Memory Transfer Learning: How Memories are Transferred Across Domains in Coding Agents
di: Kim, Kangsan, et al.
Pubblicazione: (2026)
di: Kim, Kangsan, et al.
Pubblicazione: (2026)
AKReF: An argumentative knowledge representation framework for structured argumentation
di: Bhattacharjee, Debarati, et al.
Pubblicazione: (2025)
di: Bhattacharjee, Debarati, et al.
Pubblicazione: (2025)
Transferable Post-training via Inverse Value Learning
di: Lu, Xinyu, et al.
Pubblicazione: (2024)
di: Lu, Xinyu, et al.
Pubblicazione: (2024)
Learning without training: The implicit dynamics of in-context learning
di: Dherin, Benoit, et al.
Pubblicazione: (2025)
di: Dherin, Benoit, et al.
Pubblicazione: (2025)
Thinking Augmented Pre-training
di: Wang, Liang, et al.
Pubblicazione: (2025)
di: Wang, Liang, et al.
Pubblicazione: (2025)
Bootstrapping Post-training Signals for Open-ended Tasks via Rubric-based Self-play on Pre-training Text
di: Huang, Chengyu, et al.
Pubblicazione: (2026)
di: Huang, Chengyu, et al.
Pubblicazione: (2026)
KGLink: A column type annotation method that combines knowledge graph and pre-trained language model
di: Wang, Yubo, et al.
Pubblicazione: (2024)
di: Wang, Yubo, et al.
Pubblicazione: (2024)
Variance Control via Weight Rescaling in LLM Pre-training
di: Owen, Louis, et al.
Pubblicazione: (2025)
di: Owen, Louis, et al.
Pubblicazione: (2025)
Pretraining with hierarchical memories: separating long-tail and common knowledge
di: Pouransari, Hadi, et al.
Pubblicazione: (2025)
di: Pouransari, Hadi, et al.
Pubblicazione: (2025)
Perplexity-Aware Data Scaling Law: Perplexity Landscapes Predict Performance for Continual Pre-training
di: Liu, Lei, et al.
Pubblicazione: (2025)
di: Liu, Lei, et al.
Pubblicazione: (2025)
Structural Pruning of Pre-trained Language Models via Neural Architecture Search
di: Klein, Aaron, et al.
Pubblicazione: (2024)
di: Klein, Aaron, et al.
Pubblicazione: (2024)
MLKD-BERT: Multi-level Knowledge Distillation for Pre-trained Language Models
di: Zhang, Ying, et al.
Pubblicazione: (2024)
di: Zhang, Ying, et al.
Pubblicazione: (2024)
Model Merging in Pre-training of Large Language Models
di: Li, Yunshui, et al.
Pubblicazione: (2025)
di: Li, Yunshui, et al.
Pubblicazione: (2025)
Anticipatory Understanding of Resilient Agriculture to Climate
di: Willmes, David, et al.
Pubblicazione: (2024)
di: Willmes, David, et al.
Pubblicazione: (2024)
Mapping Technological Futures: Anticipatory Discourse Through Text Mining
di: Skorski, Maciej, et al.
Pubblicazione: (2025)
di: Skorski, Maciej, et al.
Pubblicazione: (2025)
Unmasking Backdoors: An Explainable Defense via Gradient-Attention Anomaly Scoring for Pre-trained Language Models
di: Das, Anindya Sundar, et al.
Pubblicazione: (2025)
di: Das, Anindya Sundar, et al.
Pubblicazione: (2025)
nanoLM: an Affordable LLM Pre-training Benchmark via Accurate Loss Prediction across Scales
di: Yao, Yiqun, et al.
Pubblicazione: (2023)
di: Yao, Yiqun, et al.
Pubblicazione: (2023)
Counterfactual Evaluation Reveals Hidden Capability Profiles in Clinical LLMs and Agents
di: Turk, Matt
Pubblicazione: (2026)
di: Turk, Matt
Pubblicazione: (2026)
Machine-assisted writing evaluation: Exploring pre-trained language models in analyzing argumentative moves
di: Qin, Wenjuan, et al.
Pubblicazione: (2025)
di: Qin, Wenjuan, et al.
Pubblicazione: (2025)
Generative Pre-training for Speech with Flow Matching
di: Liu, Alexander H., et al.
Pubblicazione: (2023)
di: Liu, Alexander H., et al.
Pubblicazione: (2023)
Methods of improving LLM training stability
di: Rybakov, Oleg, et al.
Pubblicazione: (2024)
di: Rybakov, Oleg, et al.
Pubblicazione: (2024)
PaPaformer: Language Model from Pre-trained Parallel Paths
di: Tapaninaho, Joonas, et al.
Pubblicazione: (2025)
di: Tapaninaho, Joonas, et al.
Pubblicazione: (2025)
CMR Scaling Law: Predicting Critical Mixture Ratios for Continual Pre-training of Language Models
di: Gu, Jiawei, et al.
Pubblicazione: (2024)
di: Gu, Jiawei, et al.
Pubblicazione: (2024)
Post-training for Efficient Communication via Convention Formation
di: Hua, Yilun, et al.
Pubblicazione: (2025)
di: Hua, Yilun, et al.
Pubblicazione: (2025)
DataComp-LM: In search of the next generation of training sets for language models
di: Li, Jeffrey, et al.
Pubblicazione: (2024)
di: Li, Jeffrey, et al.
Pubblicazione: (2024)
PaTH Attention: Position Encoding via Accumulating Householder Transformations
di: Yang, Songlin, et al.
Pubblicazione: (2025)
di: Yang, Songlin, et al.
Pubblicazione: (2025)
Documenti analoghi
-
Memory Storyboard: Leveraging Temporal Segmentation for Streaming Self-Supervised Learning from Egocentric Videos
di: Yang, Yanlai, et al.
Pubblicazione: (2025) -
LifelongMemory: Leveraging LLMs for Answering Queries in Long-form Egocentric Videos
di: Wang, Ying, et al.
Pubblicazione: (2023) -
Are LLMs Prescient? A Continuous Evaluation using Daily News as the Oracle
di: Dai, Hui, et al.
Pubblicazione: (2024) -
Context Tuning for In-Context Optimization
di: Lu, Jack, et al.
Pubblicazione: (2025) -
Anticipatory Evaluation of Language Models
di: Park, Jungsoo, et al.
Pubblicazione: (2025)