Haiku to Opus in Just 10 bits: LLMs Unlock Massive Compression Gains
Fuente:
arXiv
Enregistré dans:
| Auteurs principaux: | Rinberg, Roy, Carrell, Annabelle Michael, Henniger, Simon, Carlini, Nicholas, Warr, Keri |
|---|---|
| Format: | Preprint |
| Publié: |
2026
|
| Sujets: | |
| Accès en ligne: | |
| Tags: |
Ajouter un tag
Pas de tags, Soyez le premier à ajouter un tag!
|
Documents similaires
DiFR: Inference Verification Despite Nondeterminism
par: Karvonen, Adam, et autres
Publié: (2025)
par: Karvonen, Adam, et autres
Publié: (2025)
Rich-ARQ: From 1-bit Acknowledgment to Rich Neural Coded Feedback
par: Chen, Enhao, et autres
Publié: (2026)
par: Chen, Enhao, et autres
Publié: (2026)
A SER-based Device Selection Mechanism in Multi-bits Quantization Federated Learning
par: Sun, Pengcheng, et autres
Publié: (2024)
par: Sun, Pengcheng, et autres
Publié: (2024)
The Token Games: Evaluating Language Model Reasoning with Puzzle Duels
par: Henniger, Simon, et autres
Publié: (2026)
par: Henniger, Simon, et autres
Publié: (2026)
From Tokens to Thoughts: How LLMs and Humans Trade Compression for Meaning
par: Shani, Chen, et autres
Publié: (2025)
par: Shani, Chen, et autres
Publié: (2025)
Exploiting Deep Reinforcement Learning for Edge Caching in Cell-Free Massive MIMO Systems
par: Zhang, Yu, et autres
Publié: (2022)
par: Zhang, Yu, et autres
Publié: (2022)
CAnet: Uplink-aided Downlink Channel Acquisition in FDD Massive MIMO using Deep Learning
par: Guo, Jiajia, et autres
Publié: (2021)
par: Guo, Jiajia, et autres
Publié: (2021)
CSRv2: Unlocking Ultra-Sparse Embeddings
par: Guo, Lixuan, et autres
Publié: (2026)
par: Guo, Lixuan, et autres
Publié: (2026)
Fibbinary-Based Compression and Quantization for Efficient Neural Radio Receivers
par: Fiandaca, Roberta, et autres
Publié: (2025)
par: Fiandaca, Roberta, et autres
Publié: (2025)
Broadcast Channel Cooperative Gain: An Operational Interpretation of Partial Information Decomposition
par: Tian, Chao, et autres
Publié: (2025)
par: Tian, Chao, et autres
Publié: (2025)
Interpretability as Compression: Reconsidering SAE Explanations of Neural Activations with MDL-SAEs
par: Ayonrinde, Kola, et autres
Publié: (2024)
par: Ayonrinde, Kola, et autres
Publié: (2024)
Fed-PELAD: Communication-Efficient Federated Learning for Massive MIMO CSI Feedback with Personalized Encoders and a LoRA-Adapted Shared Decoder
par: Zhou, Yixiang, et autres
Publié: (2025)
par: Zhou, Yixiang, et autres
Publié: (2025)
Optimizing Learned Image Compression on Scalar and Entropy-Constraint Quantization
par: Borzechowski, Florian, et autres
Publié: (2025)
par: Borzechowski, Florian, et autres
Publié: (2025)
Solomonoff-Inspired Hypothesis Ranking with LLMs for Prediction Under Uncertainty
par: Barber, Josh, et autres
Publié: (2025)
par: Barber, Josh, et autres
Publié: (2025)
Can Complexity and Uncomputability Explain Intelligence? SuperARC: A Test for Artificial Super Intelligence Based on Recursive Compression
par: Hernández-Espinosa, Alberto, et autres
Publié: (2025)
par: Hernández-Espinosa, Alberto, et autres
Publié: (2025)
Forget BIT, It is All about TOKEN: Towards Semantic Information Theory for LLMs
par: Bai, Bo
Publié: (2025)
par: Bai, Bo
Publié: (2025)
Belief Information based Deep Channel Estimation for Massive MIMO Systems
par: Xu, Jialong, et autres
Publié: (2024)
par: Xu, Jialong, et autres
Publié: (2024)
Compressing Chemistry Reveals Functional Groups
par: Sharma, Ruben, et autres
Publié: (2025)
par: Sharma, Ruben, et autres
Publié: (2025)
Distributed and Rate-Adaptive Feature Compression
par: Deshmukh, Aditya, et autres
Publié: (2024)
par: Deshmukh, Aditya, et autres
Publié: (2024)
Causality-Driven Reinforcement Learning for Joint Communication and Sensing
par: Roy, Anik, et autres
Publié: (2024)
par: Roy, Anik, et autres
Publié: (2024)
Multi-agent Reinforcement Learning for Energy Saving in Multi-Cell Massive MIMO Systems
par: Cai, Tianzhang, et autres
Publié: (2024)
par: Cai, Tianzhang, et autres
Publié: (2024)
AlphaZip: Neural Network-Enhanced Lossless Text Compression
par: Narashiman, Swathi Shree, et autres
Publié: (2024)
par: Narashiman, Swathi Shree, et autres
Publié: (2024)
A Low-Overhead Incorporation-Extrapolation based Few-Shot CSI Feedback Framework for Massive MIMO Systems
par: Zhou, Binggui, et autres
Publié: (2023)
par: Zhou, Binggui, et autres
Publié: (2023)
Energy Saving for Cell-Free Massive MIMO Networks: A Multi-Agent Deep Reinforcement Learning Approach
par: Wang, Qichen, et autres
Publié: (2026)
par: Wang, Qichen, et autres
Publié: (2026)
A General Error-Theoretical Analysis Framework for Constructing Compression Strategies
par: Zhang, Boyang, et autres
Publié: (2025)
par: Zhang, Boyang, et autres
Publié: (2025)
BERT4MIMO: A Foundation Model using BERT Architecture for Massive MIMO Channel State Information Prediction
par: Catak, Ferhat Ozgur, et autres
Publié: (2025)
par: Catak, Ferhat Ozgur, et autres
Publié: (2025)
Test-Time Steering for Lossless Text Compression via Weighted Product of Experts
par: Zhang, Qihang, et autres
Publié: (2025)
par: Zhang, Qihang, et autres
Publié: (2025)
FibQuant: Universal Vector Quantization for Random-Access KV-Cache Compression
par: Lee, Namyoon, et autres
Publié: (2026)
par: Lee, Namyoon, et autres
Publié: (2026)
Flexible Variational Information Bottleneck: Achieving Diverse Compression with a Single Training
par: Kudo, Sota, et autres
Publié: (2024)
par: Kudo, Sota, et autres
Publié: (2024)
Deep Learning-based Compressive Beam Alignment in mmWave Vehicular Systems
par: Wang, Yuyang, et autres
Publié: (2021)
par: Wang, Yuyang, et autres
Publié: (2021)
GeoIB: Geometry-Aware Information Bottleneck via Statistical-Manifold Compression
par: Wang, Weiqi, et autres
Publié: (2026)
par: Wang, Weiqi, et autres
Publié: (2026)
DiffPace: Diffusion-based Plug-and-play Augmented Channel Estimation in mmWave and Terahertz Ultra-Massive MIMO Systems
par: Hu, Zhengdong, et autres
Publié: (2025)
par: Hu, Zhengdong, et autres
Publié: (2025)
Understanding LLM Behaviors via Compression: Data Generation, Knowledge Acquisition and Scaling Laws
par: Pan, Zhixuan, et autres
Publié: (2025)
par: Pan, Zhixuan, et autres
Publié: (2025)
Compression via Pre-trained Transformers: A Study on Byte-Level Multimodal Data
par: Heurtel-Depeiges, David, et autres
Publié: (2024)
par: Heurtel-Depeiges, David, et autres
Publié: (2024)
Pay Less But Get More: A Dual-Attention-based Channel Estimation Network for Massive MIMO Systems with Low-Density Pilots
par: Zhou, Binggui, et autres
Publié: (2023)
par: Zhou, Binggui, et autres
Publié: (2023)
Co-learning-aided Multi-modal-deep-learning Framework of Passive DOA Estimators for a Heterogeneous Hybrid Massive MIMO Receiver
par: Bai, Jiatong, et autres
Publié: (2024)
par: Bai, Jiatong, et autres
Publié: (2024)
Low-Overhead Channel Estimation via 3D Extrapolation for TDD mmWave Massive MIMO Systems Under High-Mobility Scenarios
par: Zhou, Binggui, et autres
Publié: (2024)
par: Zhou, Binggui, et autres
Publié: (2024)
Language Modeling Is Compression
par: Delétang, Grégoire, et autres
Publié: (2023)
par: Delétang, Grégoire, et autres
Publié: (2023)
Self-Play Only Evolves When Self-Synthetic Pipeline Ensures Learnable Information Gain
par: Liu, Wei, et autres
Publié: (2026)
par: Liu, Wei, et autres
Publié: (2026)
Informationally Compressive Anonymization: Non-Degrading Sensitive Input Protection for Privacy-Preserving Supervised Machine Learning
par: Samuelson, Jeremy J
Publié: (2026)
par: Samuelson, Jeremy J
Publié: (2026)
Documents similaires
-
DiFR: Inference Verification Despite Nondeterminism
par: Karvonen, Adam, et autres
Publié: (2025) -
Rich-ARQ: From 1-bit Acknowledgment to Rich Neural Coded Feedback
par: Chen, Enhao, et autres
Publié: (2026) -
A SER-based Device Selection Mechanism in Multi-bits Quantization Federated Learning
par: Sun, Pengcheng, et autres
Publié: (2024) -
The Token Games: Evaluating Language Model Reasoning with Puzzle Duels
par: Henniger, Simon, et autres
Publié: (2026) -
From Tokens to Thoughts: How LLMs and Humans Trade Compression for Meaning
par: Shani, Chen, et autres
Publié: (2025)