Buchumschlag

Token Weighting for Long-Range Language Modeling

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Helm, Falko, Daheim, Nico, Gurevych, Iryna
Format:	Preprint
Veröffentlicht:	2025
Schlagworte:	Computation and Language
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Socratic Reasoning Improves Positive Text Rewriting
von: Goel, Anmol, et al.
Veröffentlicht: (2024)

Stepwise Verification and Remediation of Student Reasoning Errors with Large Language Model Tutors
von: Daheim, Nico, et al.
Veröffentlicht: (2024)

Uncertainty-Aware Decoding with Minimum Bayes Risk
von: Daheim, Nico, et al.
Veröffentlicht: (2025)

Model Merging by Uncertainty-Based Gradient Matching
von: Daheim, Nico, et al.
Veröffentlicht: (2023)

MathTutorBench: A Benchmark for Measuring Open-ended Pedagogical Capabilities of LLM Tutors
von: Macina, Jakub, et al.
Veröffentlicht: (2025)

From Problem-Solving to Teaching Problem-Solving: Aligning LLMs with Pedagogy using Reinforcement Learning
von: Dinucu-Jianu, David, et al.
Veröffentlicht: (2025)

Attribute or Abstain: Large Language Models as Long Document Assistants
von: Buchmann, Jan, et al.
Veröffentlicht: (2024)

Robust Utility-Preserving Text Anonymization Based on Large Language Models
von: Yang, Tianyu, et al.
Veröffentlicht: (2024)

IRCoder: Intermediate Representations Make Language Models Robust Multilingual Code Generators
von: Paul, Indraneil, et al.
Veröffentlicht: (2024)

Are Large Language Models Good Classifiers? A Study on Edit Intent Classification in Scientific Document Revisions
von: Ruan, Qian, et al.
Veröffentlicht: (2024)

Cultural Learning-Based Culture Adaptation of Language Models
von: Liu, Chen Cecilia, et al.
Veröffentlicht: (2025)

Automatic Reviewers Fail to Detect Faulty Reasoning in Research Papers: A New Counterfactual Evaluation Framework
von: Dycke, Nils, et al.
Veröffentlicht: (2025)

Citation Failure: Definition, Analysis and Efficient Mitigation
von: Buchmann, Jan, et al.
Veröffentlicht: (2025)

Like a Good Nearest Neighbor: Practical Content Moderation and Text Classification
von: Bates, Luke, et al.
Veröffentlicht: (2023)

Patches of Nonlinearity: Instruction Vectors in Large Language Models
von: Bigoulaeva, Irina, et al.
Veröffentlicht: (2026)

DARA: Decomposition-Alignment-Reasoning Autonomous Language Agent for Question Answering over Knowledge Graphs
von: Fang, Haishuo, et al.
Veröffentlicht: (2024)

Factual Self-Awareness in Language Models: Representation, Robustness, and Scaling
von: Tamoyan, Hovhannes, et al.
Veröffentlicht: (2025)

Localizing and Mitigating Errors in Long-form Question Answering
von: Sachdeva, Rachneet, et al.
Veröffentlicht: (2024)

Reward Modeling for Scientific Writing Evaluation
von: Şahinuç, Furkan, et al.
Veröffentlicht: (2026)

ConspirED: A Dataset for Cognitive Traits of Conspiracy Theories and Large Language Model Safety
von: Bates, Luke, et al.
Veröffentlicht: (2025)

Turning Logic Against Itself : Probing Model Defenses Through Contrastive Questions
von: Sachdeva, Rachneet, et al.
Veröffentlicht: (2025)

Re3: A Holistic Framework and Dataset for Modeling Collaborative Document Revision
von: Ruan, Qian, et al.
Veröffentlicht: (2024)

SciCoQA: Quality Assurance for Scientific Paper--Code Alignment
von: Baumgärtner, Tim, et al.
Veröffentlicht: (2026)

How to Weight Multitask Finetuning? Fast Previews via Bayesian Model-Merging
von: Maldonado, Hugo Monzón, et al.
Veröffentlicht: (2024)

Differentially Private Steering for Large Language Model Alignment
von: Goel, Anmol, et al.
Veröffentlicht: (2025)

How Quantization Shapes Bias in Large Language Models
von: Marcuzzi, Federico, et al.
Veröffentlicht: (2025)

Multimodal Large Language Models to Support Real-World Fact-Checking
von: Geng, Jiahui, et al.
Veröffentlicht: (2024)

Transforming Scholarly Landscapes: Influence of Large Language Models on Academic Fields beyond Computer Science
von: Pramanick, Aniket, et al.
Veröffentlicht: (2024)

Holmes: A Benchmark to Assess the Linguistic Competence of Language Models
von: Waldis, Andreas, et al.
Veröffentlicht: (2024)

Towards Privacy-aware Mental Health AI Models: Advances, Challenges, and Opportunities
von: Mandal, Aishik, et al.
Veröffentlicht: (2025)

The Lou Dataset -- Exploring the Impact of Gender-Fair Language in German Text Classification
von: Waldis, Andreas, et al.
Veröffentlicht: (2024)

Modular Sentence Encoders: Separating Language Specialization from Cross-Lingual Alignment
von: Huang, Yongxin, et al.
Veröffentlicht: (2024)

Commitment Checklist: Auditing Author Commitments in Peer Review
von: Chen, Chung-Chi, et al.
Veröffentlicht: (2026)

Document Structure in Long Document Transformers
von: Buchmann, Jan, et al.
Veröffentlicht: (2024)

Identifying Aspects in Peer Reviews
von: Lu, Sheng, et al.
Veröffentlicht: (2025)

COVE: COntext and VEracity prediction for out-of-context images
von: Tonglet, Jonathan, et al.
Veröffentlicht: (2025)

Expert Preference-based Evaluation of Automated Related Work Generation
von: Şahinuç, Furkan, et al.
Veröffentlicht: (2025)

M4FC: a Multimodal, Multilingual, Multicultural, Multitask Real-World Fact-Checking Dataset
von: Geng, Jiahui, et al.
Veröffentlicht: (2025)

How to Handle Different Types of Out-of-Distribution Scenarios in Computational Argumentation? A Comprehensive and Fine-Grained Field Study
von: Waldis, Andreas, et al.
Veröffentlicht: (2023)

Dive into the Chasm: Probing the Gap between In- and Cross-Topic Generalization
von: Waldis, Andreas, et al.
Veröffentlicht: (2024)