Buchumschlag

From Interpretability to Performance: Optimizing Retrieval Heads for Long-Context Language Models

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Ma, Youmi, Okazaki, Naoaki
Format:	Preprint
Veröffentlicht:	2026
Schlagworte:	Computation and Language
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Building a Japanese Document-Level Relation Extraction Dataset Assisted by Cross-Lingual Transfer
von: Ma, Youmi, et al.
Veröffentlicht: (2024)

Sampling-based Pseudo-Likelihood for Membership Inference Attacks
von: Kaneko, Masahiro, et al.
Veröffentlicht: (2024)

Synthesizing Instruction-Tuning Datasets with Contrastive Decoding
von: Ichinose, Tatsuya, et al.
Veröffentlicht: (2026)

Knowledge of Pretrained Language Models on Surface Information of Tokens
von: Hiraoka, Tatsuya, et al.
Veröffentlicht: (2024)

Diffusion-State Policy Optimization for Masked Diffusion Language Models
von: Oba, Daisuke, et al.
Veröffentlicht: (2026)

Evaluating Gender Bias of Pre-trained Language Models in Natural Language Inference by Considering All Labels
von: Anantaprayoon, Panatchakorn, et al.
Veröffentlicht: (2023)

LLM Output Detectability and Task Performance Can be Jointly Optimized
von: Saito, Koshiro, et al.
Veröffentlicht: (2026)

Social Bias Evaluation for Large Language Models Requires Prompt Variations
von: Hida, Rem, et al.
Veröffentlicht: (2024)

OUTFOX: LLM-Generated Essay Detection Through In-Context Learning with Adversarially Generated Examples
von: Koike, Ryuto, et al.
Veröffentlicht: (2023)

Drifting Objectives for Refining Discrete Diffusion Language Models
von: Oba, Daisuke, et al.
Veröffentlicht: (2026)

Intent-Aware Self-Correction for Mitigating Social Biases in Large Language Models
von: Anantaprayoon, Panatchakorn, et al.
Veröffentlicht: (2025)

Tokenization as Finite-State Transduction
von: Cognetta, Marco, et al.
Veröffentlicht: (2024)

Evaluating Gender Bias in Large Language Models via Chain-of-Thought Prompting
von: Kaneko, Masahiro, et al.
Veröffentlicht: (2024)

ExaGPT: Example-Based Machine-Generated Text Detection for Human Interpretability
von: Koike, Ryuto, et al.
Veröffentlicht: (2025)

A Japanese Benchmark for Evaluating Social Bias in Reasoning Based on Attribution Theory
von: Shiotani, Taihei, et al.
Veröffentlicht: (2026)

Bit-level BPE: Below the byte boundary
von: Moon, Sangwhan, et al.
Veröffentlicht: (2025)

Distributional Properties of Subword Regularization
von: Cognetta, Marco, et al.
Veröffentlicht: (2024)

How You Prompt Matters! Even Task-Oriented Constraints in Instructions Affect LLM-Generated Text Detection
von: Koike, Ryuto, et al.
Veröffentlicht: (2023)

Solving NLP Problems through Human-System Collaboration: A Discussion-based Approach
von: Kaneko, Masahiro, et al.
Veröffentlicht: (2023)

SAIE Framework: Support Alone Isn't Enough -- Advancing LLM Training with Adversarial Remarks
von: Loem, Mengsay, et al.
Veröffentlicht: (2023)

Retrieval Head Mechanistically Explains Long-Context Factuality
von: Wu, Wenhao, et al.
Veröffentlicht: (2024)

Why We Build Local Large Language Models: An Observational Analysis from 35 Japanese and Multilingual LLMs
von: Saito, Koshiro, et al.
Veröffentlicht: (2024)

Multi-modal, Multi-task, Multi-criteria Automatic Evaluation with Vision Language Models
von: Ohi, Masanari, et al.
Veröffentlicht: (2024)

Likelihood-based Mitigation of Evaluation Bias in Large Language Models
von: Oi, Masanari, et al.
Veröffentlicht: (2024)

Building Instruction-Tuning Datasets from Human-Written Instructions with Open-Weight Large Language Models
von: Ma, Youmi, et al.
Veröffentlicht: (2025)

QuantumBench: A Benchmark for Quantum Problem Solving
von: Minami, Shunya, et al.
Veröffentlicht: (2025)

Constructing Multimodal Datasets from Scratch for Rapid Development of a Japanese Visual Language Model
von: Sasagawa, Keito, et al.
Veröffentlicht: (2024)

Two Counterexamples to Tokenization and the Noiseless Channel
von: Cognetta, Marco, et al.
Veröffentlicht: (2024)

Aligning Tree-Search Policies with Fixed Token Budgets in Test-Time Scaling of LLMs
von: Miyamoto, Sora, et al.
Veröffentlicht: (2026)

ZigzagAttention: Efficient Long-Context Inference with Exclusive Retrieval and Streaming Heads
von: Liu, Zhuorui, et al.
Veröffentlicht: (2025)

Query-Focused Retrieval Heads Improve Long-Context Reasoning and Re-ranking
von: Zhang, Wuwei, et al.
Veröffentlicht: (2025)

DuoAttention: Efficient Long-Context LLM Inference with Retrieval and Streaming Heads
von: Xiao, Guangxuan, et al.
Veröffentlicht: (2024)

Literary Evidence Retrieval via Long-Context Language Models
von: Thai, Katherine, et al.
Veröffentlicht: (2025)

Improving Contextual Faithfulness of Large Language Models via Retrieval Heads-Induced Optimization
von: Huang, Lei, et al.
Veröffentlicht: (2025)

WAON: A Large-Scale Japanese Image-Text Dataset for Cultural Adaptation in Contrastive Vision-Language Models
von: Sugiura, Issa, et al.
Veröffentlicht: (2025)

VERA: Identifying and Leveraging Visual Evidence Retrieval Heads in Long-Context Understanding
von: Pei, Rongcan, et al.
Veröffentlicht: (2026)

Stronger Baselines for Retrieval-Augmented Generation with Long-Context Language Models
von: Laitenberger, Alex, et al.
Veröffentlicht: (2025)

Stopping Computation for Converged Tokens in Masked Diffusion-LM Decoding
von: Oba, Daisuke, et al.
Veröffentlicht: (2026)

Exploring Fine-Tuning for In-Context Retrieval and Efficient KV-Caching in Long-Context Language Models
von: Molfese, Francesco Maria, et al.
Veröffentlicht: (2026)

Decoding-Free Sampling Strategies for LLM Marginalization
von: Pohl, David, et al.
Veröffentlicht: (2025)