Buchumschlag

How Do LLMs Acquire New Knowledge? A Knowledge Circuits Perspective on Continual Pre-Training

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Ou, Yixin, Yao, Yunzhi, Zhang, Ningyu, Jin, Hui, Sun, Jiacheng, Deng, Shumin, Li, Zhenguo, Chen, Huajun
Format:	Preprint
Veröffentlicht:	2025
Schlagworte:	Machine Learning Artificial Intelligence Computation and Language Computer Vision and Pattern Recognition Human-Computer Interaction
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Knowledge Circuits in Pretrained Transformers
von: Yao, Yunzhi, et al.
Veröffentlicht: (2024)

Detoxifying Large Language Models via Knowledge Editing
von: Wang, Mengru, et al.
Veröffentlicht: (2024)

Knowledge Mechanisms in Large Language Models: A Survey and Perspective
von: Wang, Mengru, et al.
Veröffentlicht: (2024)

KnowAgent: Knowledge-Augmented Planning for LLM-Based Agents
von: Zhu, Yuqi, et al.
Veröffentlicht: (2024)

CaKE: Circuit-aware Editing Enables Generalizable Knowledge Learners
von: Yao, Yunzhi, et al.
Veröffentlicht: (2025)

LLMs for Knowledge Graph Construction and Reasoning: Recent Capabilities and Future Opportunities
von: Zhu, Yuqi, et al.
Veröffentlicht: (2023)

Illusions of Confidence? Diagnosing LLM Truthfulness via Neighborhood Consistency
von: Xu, Haoming, et al.
Veröffentlicht: (2026)

AutoMind: Adaptive Knowledgeable Agent for Automated Data Science
von: Ou, Yixin, et al.
Veröffentlicht: (2025)

Exploring Model Kinship for Merging Large Language Models
von: Hu, Yedi, et al.
Veröffentlicht: (2024)

How Controllable Are Large Language Models? A Unified Evaluation across Behavioral Granularities
von: Xu, Ziwen, et al.
Veröffentlicht: (2026)

A Comprehensive Study of Knowledge Editing for Large Language Models
von: Zhang, Ningyu, et al.
Veröffentlicht: (2024)

From Data to Behavior: Predicting Unintended Model Behaviors Before Training
von: Wang, Mengru, et al.
Veröffentlicht: (2026)

LLMs in Wikipedia: Investigating How LLMs Impact Participation in Knowledge Communities
von: Zhou, Moyan, et al.
Veröffentlicht: (2025)

EasyEdit2: An Easy-to-use Steering Framework for Editing Large Language Models
von: Xu, Ziwen, et al.
Veröffentlicht: (2025)

InstructEdit: Instruction-based Knowledge Editing for Large Language Models
von: Zhang, Ningyu, et al.
Veröffentlicht: (2024)

Unveiling the Pitfalls of Knowledge Editing for Large Language Models
von: Li, Zhoubo, et al.
Veröffentlicht: (2023)

Adapting to LLMs: How Insiders and Outsiders Reshape Scientific Knowledge Production
von: Xu, Huimin, et al.
Veröffentlicht: (2025)

Editing Conceptual Knowledge for Large Language Models
von: Wang, Xiaohan, et al.
Veröffentlicht: (2024)

Aligning Agentic World Models via Knowledgeable Experience Learning
von: Ren, Baochang, et al.
Veröffentlicht: (2026)

CKnowEdit: A New Chinese Knowledge Editing Dataset for Linguistics, Facts, and Logic Error Correction in LLMs
von: Fang, Jizhan, et al.
Veröffentlicht: (2024)

ReLearn: Unlearning via Learning for Large Language Models
von: Xu, Haoming, et al.
Veröffentlicht: (2025)

OmniThink: Expanding Knowledge Boundaries in Machine Writing through Thinking
von: Xi, Zekun, et al.
Veröffentlicht: (2025)

Knowledge Prompting: How Knowledge Engineers Use Large Language Models
von: Koutsiana, Elisavet, et al.
Veröffentlicht: (2024)

Bridging Knowledge Gaps in Clinical AI: An Activity Theory Perspective on Interdisciplinary Data Work for Telehealth
von: Yao, Bingsheng, et al.
Veröffentlicht: (2024)

How Do Large Language Models Learn Concepts During Continual Pre-Training?
von: Yao, Barry Menglong, et al.
Veröffentlicht: (2026)

Relying on LLMs: Student Practices and Instructor Norms are Changing in Computer Science Education
von: Lin, Xinrui, et al.
Veröffentlicht: (2026)

"Auntie, Please Don't Fall for Those Smooth Talkers": How Chinese Younger Family Members Safeguard Seniors from Online Fraud
von: Deng, Yue, et al.
Veröffentlicht: (2025)

EasyInstruct: An Easy-to-use Instruction Processing Framework for Large Language Models
von: Ou, Yixin, et al.
Veröffentlicht: (2024)

How Do LLMs See Charts? A Comparative Study on High-Level Visualization Comprehension in Humans and LLMs
von: Jeon, Hyotaek, et al.
Veröffentlicht: (2026)

A Preliminary Roadmap for LLMs as Assistants in Exploring, Analyzing, and Visualizing Knowledge Graphs
von: Li, Harry, et al.
Veröffentlicht: (2024)

How Do Teachers Create Pedagogical Chatbots?: Current Practices and Challenges
von: Yoo, Minju, et al.
Veröffentlicht: (2025)

The Decline of Online Knowledge Communities: Obstacles, Workarounds, and Sustainability
von: Pang, Ching Christie, et al.
Veröffentlicht: (2026)

Agentic AutoSurvey: Let LLMs Survey LLMs
von: Liu, Yixin, et al.
Veröffentlicht: (2025)

KNOWNET: Guided Health Information Seeking from LLMs via Knowledge Graph Integration
von: Yan, Youfu, et al.
Veröffentlicht: (2024)

Knowledge Workers' Perspectives on AI Training for Responsible AI Use
von: Zhang, Angie, et al.
Veröffentlicht: (2025)

Making Language Models Better Tool Learners with Execution Feedback
von: Qiao, Shuofei, et al.
Veröffentlicht: (2023)

GraphTide: Augmenting Knowledge-Intensive Text with Progressive Nested Graph
von: Qian, Xin, et al.
Veröffentlicht: (2026)

HypoChainer: A Collaborative System Combining LLMs and Knowledge Graphs for Hypothesis-Driven Scientific Discovery
von: Jiang, Haoran, et al.
Veröffentlicht: (2025)

Retrieval-augmented Prompt Learning for Pre-trained Foundation Models
von: Chen, Xiang, et al.
Veröffentlicht: (2025)

"What If My Face Gets Scanned Without Consent": Understanding Older Adults' Experiences with Biometric Payment
von: Deng, Yue, et al.
Veröffentlicht: (2026)