Buchumschlag

From Large to Super-Tiny: End-to-End Optimization for Cost-Efficient LLMs

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Ni, Jiliang, Pu, Jiachen, Yang, Zhongyi, Zhou, Kun, Wang, Hui, Xiao, Xiaoliang, Wang, Dakui, Li, Xin, Luo, Jingfeng, Hu, Conggang
Format:	Preprint
Veröffentlicht:	2025
Schlagworte:	Computation and Language
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

STAR: Similarity-guided Teacher-Assisted Refinement for Super-Tiny Function Calling Models
von: Ni, Jiliang, et al.
Veröffentlicht: (2026)

TinyNav: End-to-End TinyML for Real-Time Autonomous Navigation on Microcontrollers
von: Roy, Pooria, et al.
Veröffentlicht: (2026)

UFO-DETR: Frequency-Guided End-to-End Detector for UAV Tiny Objects
von: Chen, Yuankai, et al.
Veröffentlicht: (2026)

BPQP: A Differentiable Convex Optimization Framework for Efficient End-to-End Learning
von: Pan, Jianming, et al.
Veröffentlicht: (2024)

End-to-End On-Device Quantization-Aware Training for LLMs at Inference Cost
von: Tan, Qitao, et al.
Veröffentlicht: (2025)

Prototyping an End-to-End Multi-Modal Tiny-CNN for Cardiovascular Sensor Patches
von: Ibrahim, Mustafa Fuad Rifet, et al.
Veröffentlicht: (2025)

Reliable End-to-End Material Information Extraction from the Literature with Source-Tracked Multi-Stage Large Language Models
von: Wang, Xin, et al.
Veröffentlicht: (2025)

Efficient Multi-Camera Tokenization with Triplanes for End-to-End Driving
von: Ivanovic, Boris, et al.
Veröffentlicht: (2025)

VisionSelector: End-to-End Learnable Visual Token Compression for Efficient Multimodal LLMs
von: Zhu, Jiaying, et al.
Veröffentlicht: (2025)

Disentangled-Transformer: An Explainable End-to-End Automatic Speech Recognition Model with Speech Content-Context Separation
von: Wang, Pu, et al.
Veröffentlicht: (2024)

MiniCPM4: Ultra-Efficient LLMs on End Devices
von: MiniCPM Team, et al.
Veröffentlicht: (2025)

Efficient yet Accurate End-to-End SC Accelerator Design
von: Li, Meng, et al.
Veröffentlicht: (2024)

End-to-end Contrastive Language-Speech Pretraining Model For Long-form Spoken Question Answering
von: Hu, Jiliang, et al.
Veröffentlicht: (2025)

Tracking by Detection and Query: An Efficient End-to-End Framework for Multi-Object Tracking
von: Jia, Shukun, et al.
Veröffentlicht: (2024)

EvaDrive: Evolutionary Adversarial Policy Optimization for End-to-End Autonomous Driving
von: Jiao, Siwen, et al.
Veröffentlicht: (2025)

Wave-U-Mamba: An End-To-End Framework For High-Quality And Efficient Speech Super Resolution
von: Lee, Yongjoon, et al.
Veröffentlicht: (2024)

MiCU: End-to-End Smart Home Command Understanding with Large Language Model
von: Han, Haowei, et al.
Veröffentlicht: (2026)

End-to-End Design and Validation of a Low-Cost Stewart Platform with Nonlinear Estimation and Control
von: Cinun, Benedictus C. G., et al.
Veröffentlicht: (2025)

End‐to‐End Design and Validation of a Low‐Cost Stewart Platform With Nonlinear Estimation and Control
von: Benedictus C. G. Cinun, et al.
Veröffentlicht: (2026)

AgenticRec: End-to-End Tool-Integrated Policy Optimization for Ranking-Oriented Recommender Agents
von: Li, Tianyi, et al.
Veröffentlicht: (2026)

ASCEND: Accurate yet Efficient End-to-End Stochastic Computing Acceleration of Vision Transformer
von: Xie, Tong, et al.
Veröffentlicht: (2024)

Towards Resource-Efficient LLMs: End-to-End Energy Accounting of Distillation Pipelines
von: Lambert, Katherine, et al.
Veröffentlicht: (2026)

End-to-End Design of Polar Coded Integrated Data and Energy Networking
von: Hu, Jie, et al.
Veröffentlicht: (2024)

Teola: Towards End-to-End Optimization of LLM-based Applications
von: Tan, Xin, et al.
Veröffentlicht: (2024)

Ultra-Efficient Decoding for End-to-End Neural Compression and Reconstruction
von: Rogers, Ethan G., et al.
Veröffentlicht: (2025)

LenslessFace: An End-to-End Optimized Lensless System for Privacy-Preserving Face Verification
von: Cai, Xin, et al.
Veröffentlicht: (2024)

Recent Advances in End-to-End Simultaneous Speech Translation
von: Liu, Xiaoqian, et al.
Veröffentlicht: (2024)

Towards Fully Decoupled End-to-End Person Search
von: Zhang, Pengcheng, et al.
Veröffentlicht: (2023)

End-to-End Vision Tokenizer Tuning
von: Wang, Wenxuan, et al.
Veröffentlicht: (2025)

DLAFormer: An End-to-End Transformer For Document Layout Analysis
von: Wang, Jiawei, et al.
Veröffentlicht: (2024)

WildSpeech-Bench: Benchmarking End-to-End SpeechLLMs in the Wild
von: Zhang, Linhao, et al.
Veröffentlicht: (2025)

End-to-End Autonomous Driving without Costly Modularization and 3D Manual Annotation
von: Guo, Mingzhe, et al.
Veröffentlicht: (2024)

An Open-source End-to-End Logic Optimization Framework for Large-scale Boolean Network with Reinforcement Learning
von: Li, Zhen, et al.
Veröffentlicht: (2024)

An End-to-End Neural Network Transceiver Design for OFDM System with FPGA-Accelerated Implementation
von: Luo, Yi, et al.
Veröffentlicht: (2025)

EVA: Efficient Reinforcement Learning for End-to-End Video Agent
von: Zhang, Yaolun, et al.
Veröffentlicht: (2026)

RepoGenesis: Benchmarking End-to-End Microservice Generation from Readme to Repository
von: Peng, Zhiyuan, et al.
Veröffentlicht: (2026)

Hallucination to Consensus: Multi-Agent LLMs for End-to-End JUnit Test Generation
von: Xu, Qinghua, et al.
Veröffentlicht: (2025)

Gumbel Reranking: Differentiable End-to-End Reranker Optimization
von: Huang, Siyuan, et al.
Veröffentlicht: (2025)

SpeakerLM: End-to-End Versatile Speaker Diarization and Recognition with Multimodal Large Language Models
von: Yin, Han, et al.
Veröffentlicht: (2025)

An End-to-End Multi-objective Ensemble Ranking Framework for Video Recommendation
von: He, Tiantian, et al.
Veröffentlicht: (2025)