Buchumschlag

Lossless Compression via Chained Lightweight Neural Predictors with Information Inheritance

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Kim, Yuriy, Belyaev, Evgeny
Format:	Preprint
Veröffentlicht:	2026
Schlagworte:	Information Theory Machine Learning
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

An Efficient Compression of Deep Neural Network Checkpoints Based on Prediction and Context Modeling
von: Kim, Yuriy, et al.
Veröffentlicht: (2025)

Lossless and Near-Lossless Compression for Foundation Models
von: Hershcovitch, Moshik, et al.
Veröffentlicht: (2024)

ZipNN: Lossless Compression for AI Models
von: Hershcovitch, Moshik, et al.
Veröffentlicht: (2024)

AlphaZip: Neural Network-Enhanced Lossless Text Compression
von: Narashiman, Swathi Shree, et al.
Veröffentlicht: (2024)

Quad Length Codes for Lossless Compression of e4m3
von: Agrawal, Aditya, et al.
Veröffentlicht: (2026)

OmniZip: Learning a Unified and Lightweight Lossless Compressor for Multi-Modal Data
von: Zhao, Yan, et al.
Veröffentlicht: (2026)

StateSMix: Online Lossless Compression via Mamba State Space Models and Sparse N-gram Context Mixing
von: Tacconelli, Roberto
Veröffentlicht: (2026)

Learning to Compress: Local Rank and Information Compression in Deep Neural Networks
von: Patel, Niket, et al.
Veröffentlicht: (2024)

eOptShrinkQ: Near-Lossless KV Cache Compression Through Optimal Spectral Denoising and Quantization
von: Su, Pei-Chun
Veröffentlicht: (2026)

Property Inheritance for Subtensors in Tensor Train Decompositions
von: Cai, HanQin, et al.
Veröffentlicht: (2025)

Lossless Image Compression Using Multi-level Dictionaries: Binary Images
von: Agnihotri, Samar, et al.
Veröffentlicht: (2024)

Theoretical Guarantees for Low-Rank Compression of Deep Neural Networks
von: Zhang, Shihao, et al.
Veröffentlicht: (2025)

Data-dependent Generalization Bounds via Variable-Size Compressibility
von: Sefidgaran, Milad, et al.
Veröffentlicht: (2023)

Cross-Domain Lossy Compression via Constrained Minimum Entropy Coupling
von: Nguyen, Nam, et al.
Veröffentlicht: (2026)

GeoIB: Geometry-Aware Information Bottleneck via Statistical-Manifold Compression
von: Wang, Weiqi, et al.
Veröffentlicht: (2026)

An Information-Theoretic Approach to Understanding Transformers' In-Context Learning of Variable-Order Markov Chains
von: Zhou, Ruida, et al.
Veröffentlicht: (2024)

EDPC: Accelerating Lossless Compression via Lightweight Probability Models and Decoupled Parallel Dataflow
von: Lu, Zeyi, et al.
Veröffentlicht: (2025)

Context Steering: A New Paradigm for Compression-based Embeddings by Synthesizing Relevant Information Features
von: Sarasa, Guillermo, et al.
Veröffentlicht: (2025)

Neural Window Decoder for SC-LDPC Codes
von: Yun, Dae-Young, et al.
Veröffentlicht: (2024)

A Neural Difference-of-Entropies Estimator for Mutual Information
von: Ni, Haoran, et al.
Veröffentlicht: (2025)

Information-Theoretic Generalization Bounds for Deep Neural Networks
von: He, Haiyun, et al.
Veröffentlicht: (2024)

Coding for Computation: Efficient Compression of Neural Networks for Reconfigurable Hardware
von: Rosenberger, Hans, et al.
Veröffentlicht: (2025)

Attention with Markov: A Framework for Principled Analysis of Transformers via Markov Chains
von: Makkuva, Ashok Vardhan, et al.
Veröffentlicht: (2024)

Neural Distributed Source Coding
von: Whang, Jay, et al.
Veröffentlicht: (2021)

Approaching Rate-Distortion Limits in Neural Compression with Lattice Transform Coding
von: Lei, Eric, et al.
Veröffentlicht: (2024)

Interpretability as Compression: Reconsidering SAE Explanations of Neural Activations with MDL-SAEs
von: Ayonrinde, Kola, et al.
Veröffentlicht: (2024)

Code Rate Optimization via Neural Polar Decoders
von: Aharoni, Ziv, et al.
Veröffentlicht: (2025)

Information-Theoretic Limits of Quantum Learning via Data Compression
von: Angrisani, Armando, et al.
Veröffentlicht: (2021)

Lossless Compression of Vector IDs for Approximate Nearest Neighbor Search
von: Severo, Daniel, et al.
Veröffentlicht: (2025)

Exploration-Exploitation Tradeoff in Universal Lossy Compression
von: Weinberger, Nir, et al.
Veröffentlicht: (2025)

Application of Deep Learning in Biological Data Compression
von: Zou, Chunyu
Veröffentlicht: (2025)

Covariance Matrix Construction with Preprocessing-Based Spatial Sampling for Robust Adaptive Beamforming
von: Mohammadzadeh, Saeed, et al.
Veröffentlicht: (2025)

Structure Learning via Mutual Information
von: Nixon, Jeremy
Veröffentlicht: (2024)

FibQuant: Universal Vector Quantization for Random-Access KV-Cache Compression
von: Lee, Namyoon, et al.
Veröffentlicht: (2026)

Agnostic Sample Compression Schemes for Regression
von: Attias, Idan, et al.
Veröffentlicht: (2018)

Polynomial Context-Truncation Sensitivity in Autoregressive Language Models: Sequential Wyner-Ziv Bounds for KV Cache Compression
von: Kim, Munsik
Veröffentlicht: (2026)

Fundamental Limits of CSI Compression in FDD Massive MIMO
von: Park, Bumsu, et al.
Veröffentlicht: (2026)

Channel Simulation and Distributed Compression with Ensemble Rejection Sampling
von: Phan, Buu, et al.
Veröffentlicht: (2025)

Matrix Completion via Nonsmooth Regularization of Fully Connected Neural Networks
von: Faramarzi, Sajad, et al.
Veröffentlicht: (2024)

Generalization Bounds via Conditional $f$-Information
von: Wang, Ziqiao, et al.
Veröffentlicht: (2024)