Buchumschlag

Listen and Chant Before You Read: The Ladder of Beauty in LM Pre-Training

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
1. Verfasser:	Nomura, Yoshinori
Format:	Preprint
Veröffentlicht:	2026
Schlagworte:	Computation and Language
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Read Before You Think: Mitigating LLM Comprehension Failures with Step-by-Step Reading
von: Han, Feijiang, et al.
Veröffentlicht: (2025)

Self-Train Before You Transcribe
von: Flynn, Robert, et al.
Veröffentlicht: (2024)

Continual Pre-Training is (not) What You Need in Domain Adaption
von: Chen, Pin-Er, et al.
Veröffentlicht: (2025)

Warm Up Before You Train: Unlocking General Reasoning in Resource-Constrained Settings
von: Shrestha, Safal, et al.
Veröffentlicht: (2025)

Watch Before You Answer: Learning from Visually Grounded Post-Training
von: Zhang, Yuxuan, et al.
Veröffentlicht: (2026)

ObscuraCoder: Powering Efficient Code LM Pre-Training Via Obfuscation Grounding
von: Paul, Indraneil, et al.
Veröffentlicht: (2025)

Kanbun-LM: Reading and Translating Classical Chinese in Japanese Methods by Language Models
von: Wang, Hao, et al.
Veröffentlicht: (2023)

Know You Before You Speak: User-State Modeling for LLM Personalization in Multi-Turn Conversation
von: Luo, Jiani, et al.
Veröffentlicht: (2026)

D.Va: Validate Your Demonstration First Before You Use It
von: Zhang, Qi, et al.
Veröffentlicht: (2025)

Listening, Reading, or Both? Rethinking the Comprehension Benefits of Reading‐While‐Listening
von: Bronson Hui, et al.
Veröffentlicht: (2025)

Listening or Reading? Evaluating Speech Awareness in Chain-of-Thought Speech-to-Text Translation
von: Romero-Díaz, Jacobo, et al.
Veröffentlicht: (2025)

Thinking Before You Speak: A Proactive Test-time Scaling Approach
von: Liu, Cong, et al.
Veröffentlicht: (2025)

Walk Before You Run! Concise LLM Reasoning via Reinforcement Learning
von: Song, Mingyang, et al.
Veröffentlicht: (2025)

DebugLM: Learning Traceable Training Data Provenance for LLMs
von: Mo, Wenjie Jacky, et al.
Veröffentlicht: (2026)

Look Before You Leap: Autonomous Exploration for LLM Agents
von: Ye, Ziang, et al.
Veröffentlicht: (2026)

OCR-Enhanced Multimodal ASR Can Read While Listening
von: Chen, Junli, et al.
Veröffentlicht: (2026)

Talk Before You Retrieve: Agent-Led Discussions for Better RAG in Medical QA
von: Dong, Xuanzhao, et al.
Veröffentlicht: (2025)

Enhancing Pre-Trained Generative Language Models with Question Attended Span Extraction on Machine Reading Comprehension
von: Ai, Lin, et al.
Veröffentlicht: (2024)

The Reading/Listening Library.
von: Krashen, Stephen D.
Veröffentlicht: (1995)

Understanding Before Reasoning: Enhancing Chain-of-Thought with Iterative Summarization Pre-Prompting
von: Zhu, Dong-Hai, et al.
Veröffentlicht: (2025)

SnapKV: LLM Knows What You are Looking for Before Generation
von: Li, Yuhong, et al.
Veröffentlicht: (2024)

Think Twice Before You Judge: Mixture of Dual Reasoning Experts for Multimodal Sarcasm Detection
von: Jana, Soumyadeep, et al.
Veröffentlicht: (2025)

Think Before You Prune: Selective Self-Generated Calibration for Pruning Large Reasoning Models
von: Xiang, Yang, et al.
Veröffentlicht: (2025)

Check Yourself Before You Wreck Yourself: Selectively Quitting Improves LLM Agent Safety
von: Bonagiri, Vamshi Krishna, et al.
Veröffentlicht: (2025)

BabyBabelLM: A Multilingual Benchmark of Developmentally Plausible Training Data
von: Jumelet, Jaap, et al.
Veröffentlicht: (2025)

Summarize Before You Speak with ARACH: A Training-Free Inference-Time Plug-In for Enhancing LLMs via Global Attention Reallocation
von: Wang, Jingtao, et al.
Veröffentlicht: (2026)

Can ChatGPT Read Who You Are?
von: Derner, Erik, et al.
Veröffentlicht: (2023)

Synthetic Pre-Pre-Training Improves Language Model Robustness to Noisy Pre-Training Data
von: Guo, Xu, et al.
Veröffentlicht: (2026)

Think Before You Lie: How Reasoning Leads to Honesty
von: Yuan, Ann, et al.
Veröffentlicht: (2026)

Think Before You Act: Decision Transformers with Working Memory
von: Kang, Jikun, et al.
Veröffentlicht: (2023)

SpatialLadder: Progressive Training for Spatial Reasoning in Vision-Language Models
von: Li, Hongxing, et al.
Veröffentlicht: (2025)

Before You Interpret the Profile: Validity Scaling for LLM Metacognitive Self-Report
von: Cacioli, Jon-Paul
Veröffentlicht: (2026)

Score Before You Speak: Improving Persona Consistency in Dialogue Generation using Response Quality Scores
von: Saggar, Arpita, et al.
Veröffentlicht: (2025)

Look Before You Leap: Towards Decision-Aware and Generalizable Tool-Usage for Large Language Models
von: Gui, Anchun, et al.
Veröffentlicht: (2024)

Reinforcement Pre-Training
von: Dong, Qingxiu, et al.
Veröffentlicht: (2025)

KaLM-Embedding: Superior Training Data Brings A Stronger Embedding Model
von: Hu, Xinshuo, et al.
Veröffentlicht: (2025)

BabyLM Challenge: Exploring the Effect of Variation Sets on Language Model Training Efficiency
von: Haga, Akari, et al.
Veröffentlicht: (2024)

Training LayoutLM from Scratch for Efficient Named-Entity Recognition in the Insurance Domain
von: Uthayasooriyar, Benno, et al.
Veröffentlicht: (2024)

BAMBINO-LM: (Bilingual-)Human-Inspired Continual Pretraining of BabyLM
von: Shen, Zhewen, et al.
Veröffentlicht: (2024)

B-cos LM: Efficiently Transforming Pre-trained Language Models for Improved Explainability
von: Wang, Yifan, et al.
Veröffentlicht: (2025)