YNTP-100: A Benchmark for Your Next Token Prediction with 100 People
Fuente:
arXiv
Salvato in:
| Autori principali: | Ding, Shiyao, Ito, Takayuki |
|---|---|
| Natura: | Preprint |
| Pubblicazione: |
2025
|
| Soggetti: | |
| Accesso online: | |
| Tags: |
Aggiungi Tag
Nessun Tag, puoi essere il primo ad aggiungerne!!
|
Documenti analoghi
Diversity or Precision? A Deep Dive into Next Token Prediction
di: Wu, Haoyuan, et al.
Pubblicazione: (2025)
di: Wu, Haoyuan, et al.
Pubblicazione: (2025)
Cautious Next Token Prediction
di: Wang, Yizhou, et al.
Pubblicazione: (2025)
di: Wang, Yizhou, et al.
Pubblicazione: (2025)
$\infty$Bench: Extending Long Context Evaluation Beyond 100K Tokens
di: Zhang, Xinrong, et al.
Pubblicazione: (2024)
di: Zhang, Xinrong, et al.
Pubblicazione: (2024)
Reasoning Bias of Next Token Prediction Training
di: Lin, Pengxiao, et al.
Pubblicazione: (2025)
di: Lin, Pengxiao, et al.
Pubblicazione: (2025)
ENTP: Encoder-only Next Token Prediction
di: Ewer, Ethan, et al.
Pubblicazione: (2024)
di: Ewer, Ethan, et al.
Pubblicazione: (2024)
NITP: Next Implicit Token Prediction for LLM Pre-training
di: Zhang, Xiangdong, et al.
Pubblicazione: (2026)
di: Zhang, Xiangdong, et al.
Pubblicazione: (2026)
Alternatives To Next Token Prediction In Text Generation -- A Survey
di: Wyatt, Charlie, et al.
Pubblicazione: (2025)
di: Wyatt, Charlie, et al.
Pubblicazione: (2025)
Is Next Token Prediction Sufficient for GPT? Exploration on Code Logic Comprehension
di: Qi, Mengnan, et al.
Pubblicazione: (2024)
di: Qi, Mengnan, et al.
Pubblicazione: (2024)
PolySpeech-100: A Large-Scale Benchmark for Speech Understanding Across 100+ Languages and Dialects
di: Yang, Sicheng, et al.
Pubblicazione: (2026)
di: Yang, Sicheng, et al.
Pubblicazione: (2026)
Beyond the Next Token: Towards Prompt-Robust Zero-Shot Classification via Efficient Multi-Token Prediction
di: Qian, Junlang, et al.
Pubblicazione: (2025)
di: Qian, Junlang, et al.
Pubblicazione: (2025)
Fractal Patterns May Illuminate the Success of Next-Token Prediction
di: Alabdulmohsin, Ibrahim, et al.
Pubblicazione: (2024)
di: Alabdulmohsin, Ibrahim, et al.
Pubblicazione: (2024)
Implicit Optimization Bias of Next-Token Prediction in Linear Models
di: Thrampoulidis, Christos
Pubblicazione: (2024)
di: Thrampoulidis, Christos
Pubblicazione: (2024)
Preference Estimation via Opponent Modeling in Multi-Agent Negotiation
di: Konishi, Yuta, et al.
Pubblicazione: (2026)
di: Konishi, Yuta, et al.
Pubblicazione: (2026)
A Law of Next-Token Prediction in Large Language Models
di: He, Hangfeng, et al.
Pubblicazione: (2024)
di: He, Hangfeng, et al.
Pubblicazione: (2024)
Modeling Next-Token Prediction as Left-Nested Intuitionistic Implication
di: Tarau, Paul
Pubblicazione: (2026)
di: Tarau, Paul
Pubblicazione: (2026)
What Language is This? Ask Your Tokenizer
di: Meister, Clara, et al.
Pubblicazione: (2026)
di: Meister, Clara, et al.
Pubblicazione: (2026)
Geometry of Semantics in Next-Token Prediction: How Optimization Implicitly Organizes Linguistic Representations
di: Zhao, Yize, et al.
Pubblicazione: (2025)
di: Zhao, Yize, et al.
Pubblicazione: (2025)
Mechanics of Next Token Prediction with Self-Attention
di: Li, Yingcong, et al.
Pubblicazione: (2024)
di: Li, Yingcong, et al.
Pubblicazione: (2024)
Improving Next Tokens via Second-to-Last Predictions with Generate and Refine
di: Schneider, Johannes
Pubblicazione: (2024)
di: Schneider, Johannes
Pubblicazione: (2024)
The Hidden Strength of Disagreement: Unraveling the Consensus-Diversity Tradeoff in Adaptive Multi-Agent Systems
di: Wu, Zengqing, et al.
Pubblicazione: (2025)
di: Wu, Zengqing, et al.
Pubblicazione: (2025)
Differentially Private Next-Token Prediction of Large Language Models
di: Flemings, James, et al.
Pubblicazione: (2024)
di: Flemings, James, et al.
Pubblicazione: (2024)
Moving Beyond Next-Token Prediction: Transformers are Context-Sensitive Language Generators
di: Rhee, Phill Kyu
Pubblicazione: (2025)
di: Rhee, Phill Kyu
Pubblicazione: (2025)
Training LLMs Beyond Next Token Prediction -- Filling the Mutual Information Gap
di: Yang, Chun-Hao, et al.
Pubblicazione: (2025)
di: Yang, Chun-Hao, et al.
Pubblicazione: (2025)
Your LLM Knows the Future: Uncovering Its Multi-Token Prediction Potential
di: Samragh, Mohammad, et al.
Pubblicazione: (2025)
di: Samragh, Mohammad, et al.
Pubblicazione: (2025)
Low-Bit Quantization Favors Undertrained LLMs: Scaling Laws for Quantized LLMs with 100T Training Tokens
di: Ouyang, Xu, et al.
Pubblicazione: (2024)
di: Ouyang, Xu, et al.
Pubblicazione: (2024)
Broken Tokens? Your Language Model can Secretly Handle Non-Canonical Tokenizations
di: Zheng, Brian Siyuan, et al.
Pubblicazione: (2025)
di: Zheng, Brian Siyuan, et al.
Pubblicazione: (2025)
Advancing Pancreatic Cancer Prediction with a Next Visit Token Prediction Head on top of Med-BERT
di: He, Jianping, et al.
Pubblicazione: (2025)
di: He, Jianping, et al.
Pubblicazione: (2025)
LLMs are Not Just Next Token Predictors
di: Downes, Stephen M., et al.
Pubblicazione: (2024)
di: Downes, Stephen M., et al.
Pubblicazione: (2024)
Dynamics of Spontaneous Topic Changes in Next Token Prediction with Self-Attention
di: Jia, Mumin, et al.
Pubblicazione: (2025)
di: Jia, Mumin, et al.
Pubblicazione: (2025)
Towards Auto-Regressive Next-Token Prediction: In-Context Learning Emerges from Generalization
di: Gong, Zixuan, et al.
Pubblicazione: (2025)
di: Gong, Zixuan, et al.
Pubblicazione: (2025)
Lossless Compression of Large Language Model-Generated Text via Next-Token Prediction
di: Mao, Yu, et al.
Pubblicazione: (2025)
di: Mao, Yu, et al.
Pubblicazione: (2025)
On Next-Token Prediction in LLMs: How End Goals Determine the Consistency of Decoding Algorithms
di: Trauger, Jacob, et al.
Pubblicazione: (2025)
di: Trauger, Jacob, et al.
Pubblicazione: (2025)
LogitSpec: Accelerating Retrieval-based Speculative Decoding via Next Next Token Speculation
di: Liu, Tianyu, et al.
Pubblicazione: (2025)
di: Liu, Tianyu, et al.
Pubblicazione: (2025)
$100K or 100 Days: Trade-offs when Pre-Training with Academic Resources
di: Khandelwal, Apoorv, et al.
Pubblicazione: (2024)
di: Khandelwal, Apoorv, et al.
Pubblicazione: (2024)
From Next-Token to Next-Block: A Principled Adaptation Path for Diffusion LLMs
di: Tian, Yuchuan, et al.
Pubblicazione: (2025)
di: Tian, Yuchuan, et al.
Pubblicazione: (2025)
Extending LLMs' Context Window with 100 Samples
di: Zhang, Yikai, et al.
Pubblicazione: (2024)
di: Zhang, Yikai, et al.
Pubblicazione: (2024)
Bigram Subnetworks: Mapping to Next Tokens in Transformer Language Models
di: Chang, Tyler A., et al.
Pubblicazione: (2025)
di: Chang, Tyler A., et al.
Pubblicazione: (2025)
Next-Token Prediction Task Assumes Optimal Data Ordering for LLM Training in Proof Generation
di: An, Chenyang, et al.
Pubblicazione: (2024)
di: An, Chenyang, et al.
Pubblicazione: (2024)
Roboflow100-VL: A Multi-Domain Object Detection Benchmark for Vision-Language Models
di: Robicheaux, Peter, et al.
Pubblicazione: (2025)
di: Robicheaux, Peter, et al.
Pubblicazione: (2025)
Probing Geometry of Next Token Prediction Using Cumulant Expansion of the Softmax Entropy
di: Viswanathan, Karthik, et al.
Pubblicazione: (2025)
di: Viswanathan, Karthik, et al.
Pubblicazione: (2025)
Documenti analoghi
-
Diversity or Precision? A Deep Dive into Next Token Prediction
di: Wu, Haoyuan, et al.
Pubblicazione: (2025) -
Cautious Next Token Prediction
di: Wang, Yizhou, et al.
Pubblicazione: (2025) -
$\infty$Bench: Extending Long Context Evaluation Beyond 100K Tokens
di: Zhang, Xinrong, et al.
Pubblicazione: (2024) -
Reasoning Bias of Next Token Prediction Training
di: Lin, Pengxiao, et al.
Pubblicazione: (2025) -
ENTP: Encoder-only Next Token Prediction
di: Ewer, Ethan, et al.
Pubblicazione: (2024)