Buchumschlag

Check Your LLM's Secret Dictionary! Five Lines of Code Reveal What Your LLM Learned (Including What It Shouldn't Have)

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
1. Verfasser:	Miyashita, Hisashi
Format:	Preprint
Veröffentlicht:	2026
Schlagworte:	Machine Learning Artificial Intelligence Computation and Language
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

What is Your Data Worth to GPT? LLM-Scale Data Valuation with Influence Functions
von: Choe, Sang Keun, et al.
Veröffentlicht: (2024)

Your Transformer is Secretly Linear
von: Razzhigaev, Anton, et al.
Veröffentlicht: (2024)

LightTransfer: Your Long-Context LLM is Secretly a Hybrid Model with Effortless Adaptation
von: Zhang, Xuan, et al.
Veröffentlicht: (2024)

To Believe or Not to Believe Your LLM
von: Yadkori, Yasin Abbasi, et al.
Veröffentlicht: (2024)

Open Shouldn't Mean Exempt: Open-Source Exceptionalism and Generative AI
von: Atkinson, David
Veröffentlicht: (2025)

Graph Neural Networks Use Graphs When They Shouldn't
von: Bechler-Speicher, Maya, et al.
Veröffentlicht: (2023)

Share Your Attention: Transformer Weight Sharing via Matrix-based Dictionary Learning
von: Zhussip, Magauiya, et al.
Veröffentlicht: (2025)

Your Absorbing Discrete Diffusion Secretly Models the Bayesian Posterior
von: Doyle, Cooper
Veröffentlicht: (2025)

Controlling Logical Collapse in LLMs via Algebraic Ontology Projection over F2
von: Miyashita, Hisashi, et al.
Veröffentlicht: (2026)

Direct Preference Optimization: Your Language Model is Secretly a Reward Model
von: Rafailov, Rafael, et al.
Veröffentlicht: (2023)

What is it for a Machine Learning Model to Have a Capability?
von: Harding, Jacqueline, et al.
Veröffentlicht: (2024)

How Learning Rate Decay Wastes Your Best Data in Curriculum-Based LLM Pretraining
von: Luo, Kairong, et al.
Veröffentlicht: (2025)

Your Agent May Misevolve: Emergent Risks in Self-evolving LLM Agents
von: Shao, Shuai, et al.
Veröffentlicht: (2025)

Adversarial Preference Optimization: Enhancing Your Alignment via RM-LLM Game
von: Cheng, Pengyu, et al.
Veröffentlicht: (2023)

Maximize Your Data's Potential: Enhancing LLM Accuracy with Two-Phase Pretraining
von: Feng, Steven, et al.
Veröffentlicht: (2024)

NanoKnow: How to Know What Your Language Model Knows
von: Gu, Lingwei, et al.
Veröffentlicht: (2026)

What is in Your Safe Data? Identifying Benign Data that Breaks Safety
von: He, Luxi, et al.
Veröffentlicht: (2024)

On the Detectability of LLM-Generated Text: What Exactly Is LLM-Generated Text?
von: Geng, Mingmeng, et al.
Veröffentlicht: (2025)

MIR-Bench: Can Your LLM Recognize Complicated Patterns via Many-Shot In-Context Reasoning?
von: Yan, Kai, et al.
Veröffentlicht: (2025)

Teaching Your Models to Understand Code via Focal Preference Alignment
von: Wu, Jie, et al.
Veröffentlicht: (2025)

Your Simulation Runs but Solves the Wrong Physics: PDE-Grounded Intent Verification for LLM-Generated Multiphysics Simulation Code
von: Song, Zhenghan, et al.
Veröffentlicht: (2026)

Not All Synthetic Data Is Yours to Learn From
von: Alemohammad, Sina, et al.
Veröffentlicht: (2026)

Your Pre-trained LLM is Secretly an Unsupervised Confidence Calibrator
von: Luo, Beier, et al.
Veröffentlicht: (2025)

Understand What LLM Needs: Dual Preference Alignment for Retrieval-Augmented Generation
von: Dong, Guanting, et al.
Veröffentlicht: (2024)

LLM-Based Adversarial Persuasion Attacks on Fact-Checking Systems
von: Leite, João A., et al.
Veröffentlicht: (2026)

Your Mixture-of-Experts LLM Is Secretly an Embedding Model For Free
von: Li, Ziyue, et al.
Veröffentlicht: (2024)

The Lottery LLM Hypothesis, Rethinking What Abilities Should LLM Compression Preserve?
von: Tang, Zhenheng, et al.
Veröffentlicht: (2025)

Are LLM Evaluators Really Narcissists? Sanity Checking Self-Preference Evaluations
von: Roytburg, Dani, et al.
Veröffentlicht: (2026)

Mark Your LLM: Detecting the Misuse of Open-Source Large Language Models via Watermarking
von: Xu, Yijie, et al.
Veröffentlicht: (2025)

CHILL at SemEval-2025 Task 2: You Can't Just Throw Entities and Hope -- Make Your LLM to Get Them Right
von: Lee, Jaebok, et al.
Veröffentlicht: (2025)

Generative Value Conflicts Reveal LLM Priorities
von: Liu, Andy, et al.
Veröffentlicht: (2025)

Self-Verification Dilemma: Experience-Driven Suppression of Overused Checking in LLM Reasoning
von: Long, Quanyu, et al.
Veröffentlicht: (2026)

What's the Magic Word? A Control Theory of LLM Prompting
von: Bhargava, Aman, et al.
Veröffentlicht: (2023)

Semantic Faithfulness and Entropy Production Measures to Tame Your LLM Demons and Manage Hallucinations
von: Halperin, Igor
Veröffentlicht: (2025)

Mind Your Tone: Investigating How Prompt Politeness Affects LLM Accuracy (short paper)
von: Dobariya, Om, et al.
Veröffentlicht: (2025)

Consistency Is the Key: Detecting Hallucinations in LLM Generated Text By Checking Inconsistencies About Key Facts
von: Gupta, Raavi, et al.
Veröffentlicht: (2025)

Watch Your Steps: Observable and Modular Chains of Thought
von: Cohen, Cassandra A., et al.
Veröffentlicht: (2024)

Can Generative AI Solve Your In-Context Learning Problem? A Martingale Perspective
von: Jesson, Andrew, et al.
Veröffentlicht: (2024)

Reveal and Release: Iterative LLM Unlearning with Self-generated Data
von: Xie, Linxi, et al.
Veröffentlicht: (2025)

On Mitigating Code LLM Hallucinations with API Documentation
von: Jain, Nihal, et al.
Veröffentlicht: (2024)