Copertina

UIO-LLMs: Unbiased Incremental Optimization for Long-Context LLMs

Fuente: arXiv

Salvato in:

Dettagli Bibliografici
Autori principali:	Li, Wenhao, Lin, Mingbao, Zhong, Yunshan, Yan, Shuicheng, Ji, Rongrong
Natura:	Preprint
Pubblicazione:	2024
Soggetti:	Computation and Language
Accesso online:	Acceder al recurso
Tags:	Aggiungi Tag Nessun Tag, puoi essere il primo ad aggiungerne!!

Documenti analoghi

LLMs-as-Instructors: Learning from Errors Toward Automating Model Improvement
di: Ying, Jiahao, et al.
Pubblicazione: (2024)

EasyInv: Toward Fast and Better DDIM Inversion
di: Zhang, Ziyue, et al.
Pubblicazione: (2024)

DiffusionTrend: A Minimalist Approach to Virtual Fashion Try-On
di: Zhan, Wengyi, et al.
Pubblicazione: (2024)

Multi-Agent Sampling: Scaling Inference Compute for Data Synthesis with Tree Search-Based Agentic Collaboration
di: Ye, Hai, et al.
Pubblicazione: (2024)

QwenLong-CPRS: Towards $\infty$-LLMs with Dynamic Context Optimization
di: Shen, Weizhou, et al.
Pubblicazione: (2025)

Mixture of In-Context Experts Enhance LLMs' Long Context Awareness
di: Lin, Hongzhan, et al.
Pubblicazione: (2024)

Out of the Memory Barrier: A Highly Memory Efficient Training System for LLMs with Million-Token Contexts
di: Li, Wenhao, et al.
Pubblicazione: (2026)

I&S-ViT: An Inclusive & Stable Method for Pushing the Limit of Post-Training ViTs Quantization
di: Zhong, Yunshan, et al.
Pubblicazione: (2023)

CCF: A Context Compression Framework for Efficient Long-Sequence Language Modeling
di: Li, Wenhao, et al.
Pubblicazione: (2025)

Understanding the RoPE Extensions of Long-Context LLMs: An Attention Perspective
di: Zhong, Meizhi, et al.
Pubblicazione: (2024)

SoLoPO: Unlocking Long-Context Capabilities in LLMs via Short-to-Long Preference Optimization
di: Sun, Huashan, et al.
Pubblicazione: (2025)

UniVST: A Unified Framework for Training-free Localized Video Style Transfer
di: Song, Quanjian, et al.
Pubblicazione: (2024)

Long Context vs. RAG for LLMs: An Evaluation and Revisits
di: Li, Xinze, et al.
Pubblicazione: (2024)

LongFaith: Enhancing Long-Context Reasoning in LLMs with Faithful Synthetic Data
di: Yang, Cehao, et al.
Pubblicazione: (2025)

Training Long-Context LLMs Efficiently via Chunk-wise Optimization
di: Li, Wenhao, et al.
Pubblicazione: (2025)

LiteLong: Resource-Efficient Long-Context Data Synthesis for LLMs
di: Jia, Junlong, et al.
Pubblicazione: (2025)

Mitigating Posterior Salience Attenuation in Long-Context LLMs with Positional Contrastive Decoding
di: Xiao, Zikai, et al.
Pubblicazione: (2025)

Distance between Relevant Information Pieces Causes Bias in Long-Context LLMs
di: Tian, Runchu, et al.
Pubblicazione: (2024)

DoubleDipper: Improving Long-Context LLMs via Context Recycling
di: Cattan, Arie, et al.
Pubblicazione: (2024)

Are Long-LLMs A Necessity For Long-Context Tasks?
di: Qian, Hongjin, et al.
Pubblicazione: (2024)

Sentence-Anchored Gist Compression for Long-Context LLMs
di: Tarasov, Dmitrii, et al.
Pubblicazione: (2025)

Joint Enhancement of Relational Reasoning for Long-Context LLMs
di: Chen, Zhirui, et al.
Pubblicazione: (2025)

LongLLMLingua: Accelerating and Enhancing LLMs in Long Context Scenarios via Prompt Compression
di: Jiang, Huiqiang, et al.
Pubblicazione: (2023)

LongGenBench: Benchmarking Long-Form Generation in Long Context LLMs
di: Wu, Yuhao, et al.
Pubblicazione: (2024)

LongSafety: Enhance Safety for Long-Context LLMs
di: Huang, Mianqiu, et al.
Pubblicazione: (2024)

LongLLaDA: Unlocking Long Context Capabilities in Diffusion LLMs
di: Liu, Xiaoran, et al.
Pubblicazione: (2025)

Audio-Reasoner: Improving Reasoning Capability in Large Audio Language Models
di: Xie, Zhifei, et al.
Pubblicazione: (2025)

A Controlled Study on Long Context Extension and Generalization in LLMs
di: Lu, Yi, et al.
Pubblicazione: (2024)

CTkvr: KV Cache Retrieval for Long-Context LLMs via Centroid then Token Indexing
di: Lu, Kuan, et al.
Pubblicazione: (2025)

Long-Short Alignment for Effective Long-Context Modeling in LLMs
di: Du, Tianqi, et al.
Pubblicazione: (2025)

Infinite Retrieval: Attention Enhanced LLMs in Long-Context Processing
di: Ye, Xiaoju, et al.
Pubblicazione: (2025)

Training-Inference Consistent Segmented Execution for Long-Context LLMs
di: Shang, Xianpeng, et al.
Pubblicazione: (2026)

Shifting Long-Context LLMs Research from Input to Output
di: Wu, Yuhao, et al.
Pubblicazione: (2025)

Systematic Evaluation of Long-Context LLMs on Financial Concepts
di: Gupta, Lavanya, et al.
Pubblicazione: (2024)

LongIns: A Challenging Long-context Instruction-based Exam for LLMs
di: Gavin, Shawn, et al.
Pubblicazione: (2024)

MathHay: An Automated Benchmark for Long-Context Mathematical Reasoning in LLMs
di: Wang, Lei, et al.
Pubblicazione: (2024)

ETT: Expanding the Long Context Understanding Capability of LLMs at Test-Time
di: Zahirnia, Kiarash, et al.
Pubblicazione: (2025)

Why Does the Effective Context Length of LLMs Fall Short?
di: An, Chenxin, et al.
Pubblicazione: (2024)

Skywork-Reward: Bag of Tricks for Reward Modeling in LLMs
di: Liu, Chris Yuhao, et al.
Pubblicazione: (2024)

ATACompressor: Adaptive Task-Aware Compression for Efficient Long-Context Processing in LLMs
di: Li, Xuancheng, et al.
Pubblicazione: (2026)