Buchumschlag

A Neural Difference-of-Entropies Estimator for Mutual Information

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Ni, Haoran, Lotz, Martin
Format:	Preprint
Veröffentlicht:	2025
Schlagworte:	Machine Learning Information Theory
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Mutual Information Multinomial Estimation
von: Chen, Yanzhi, et al.
Veröffentlicht: (2024)

Mutual Information Estimation via Normalizing Flows
von: Butakov, Ivan, et al.
Veröffentlicht: (2024)

On the Properties and Estimation of Pointwise Mutual Information Profiles
von: Czyż, Paweł, et al.
Veröffentlicht: (2023)

MIST: Mutual Information Estimation Via Supervised Training
von: Gritsai, German, et al.
Veröffentlicht: (2025)

Estimating Conditional Mutual Information for Dynamic Feature Selection
von: Gadgil, Soham, et al.
Veröffentlicht: (2023)

Neural Estimation of Pairwise Mutual Information in Masked Discrete Sequence Models
von: Sharma, Jai, et al.
Veröffentlicht: (2026)

Contrastive Predictive Coding Done Right for Mutual Information Estimation
von: Ryu, J. Jon, et al.
Veröffentlicht: (2025)

VBO-MI: A Fully Gradient-Based Bayesian Optimization Framework Using Variational Mutual Information Estimation
von: Mirkarimi, Farhad
Veröffentlicht: (2026)

Structure Learning via Mutual Information
von: Nixon, Jeremy
Veröffentlicht: (2024)

Mutual Information Estimation via $f$-Divergence and Data Derangements
von: Letizia, Nunzio A., et al.
Veröffentlicht: (2023)

Performance Guarantees for Quantum Neural Estimation of Entropies
von: Sreekumar, Sreejith, et al.
Veröffentlicht: (2025)

Generalization in Federated Learning: A Conditional Mutual Information Framework
von: Wang, Ziqiao, et al.
Veröffentlicht: (2025)

Quantum Neural Estimation of Entropies
von: Goldfeld, Ziv, et al.
Veröffentlicht: (2023)

Accurate Estimation of Mutual Information in High Dimensional Data
von: Abdelaleem, Eslam, et al.
Veröffentlicht: (2025)

TREET: TRansfer Entropy Estimation via Transformers
von: Luxembourg, Omer, et al.
Veröffentlicht: (2024)

Transfer Entropy in Graph Convolutional Neural Networks
von: Moldovan, Adrian, et al.
Veröffentlicht: (2024)

Shapley-Based Data Valuation with Mutual Information: A Key to Modified K-Nearest Neighbors
von: Vahedifar, Mohammad Ali, et al.
Veröffentlicht: (2023)

Neural Entropy
von: Premkumar, Akhil
Veröffentlicht: (2024)

Estimating Mutual Information between Time Series and Temporal Event Sequences Across Diverse Analysis Tasks
von: Hu, Haoji, et al.
Veröffentlicht: (2026)

Transformers Provably Learn Directed Acyclic Graphs via Kernel-Guided Mutual Information
von: Cheng, Yuan, et al.
Veröffentlicht: (2025)

Predictability Analysis of Regression Problems via Conditional Entropy Estimations
von: Fang, Yu-Hsueh, et al.
Veröffentlicht: (2024)

Fundamental Properties of Causal Entropy and Information Gain
von: Simoes, Francisco N. F. Q., et al.
Veröffentlicht: (2024)

ML-PWS: Estimating the Mutual Information Between Experimental Time Series Using Neural Networks
von: Reinhardt, Manuel, et al.
Veröffentlicht: (2025)

Characterizing Dependence of Samples along the Langevin Dynamics and Algorithms via Contraction of $Φ$-Mutual Information
von: Liang, Jiaming, et al.
Veröffentlicht: (2024)

Causal Entropy and Information Gain for Measuring Causal Control
von: Simoes, Francisco Nunes Ferreira Quialheiro, et al.
Veröffentlicht: (2023)

Fast Mutual Information Computation for Large Binary Datasets
von: Falcao, Andre O.
Veröffentlicht: (2024)

Memory Complexity of Estimating Entropy and Mutual Information
von: Berg, Tomer, et al.
Veröffentlicht: (2024)

Machine Learning Predictors for Min-Entropy Estimation
von: Blanco-Romero, Javier, et al.
Veröffentlicht: (2024)

MESSY Estimation: Maximum-Entropy based Stochastic and Symbolic densitY Estimation
von: Tohme, Tony, et al.
Veröffentlicht: (2023)

Normalized Conditional Mutual Information Surrogate Loss for Deep Neural Classifiers
von: Ye, Linfeng, et al.
Veröffentlicht: (2026)

Learning in Convolutional Neural Networks Accelerated by Transfer Entropy
von: Moldovan, Adrian, et al.
Veröffentlicht: (2024)

MIFair: A Mutual-Information Framework for Intersectionality and Multiclass Fairness
von: Monnier, Jeanne, et al.
Veröffentlicht: (2026)

Neural Estimation of the Rate-Distortion Function With Applications to Operational Source Coding
von: Lei, Eric, et al.
Veröffentlicht: (2022)

Minimum Entropy Coupling with Bottleneck
von: Ebrahimi, M. Reza, et al.
Veröffentlicht: (2024)

Future Validity is the Missing Statistic: From Impossibility to $Φ$-Estimation for Grammar-Faithful Speculative Decoding
von: Nie, Wenhua, et al.
Veröffentlicht: (2026)

Information-Theoretic Generalization Bounds for Deep Neural Networks
von: He, Haiyun, et al.
Veröffentlicht: (2024)

Entropy-informed Decoding: Adaptive Information-Driven Branching
von: Evans, Benjamin Patrick, et al.
Veröffentlicht: (2026)

Hierarchical Maximum Entropy via the Renormalization Group
von: Asadi, Amir R.
Veröffentlicht: (2025)

Accelerating Relative Entropy Coding with Space Partitioning
von: He, Jiajun, et al.
Veröffentlicht: (2024)

Learning to Compress: Local Rank and Information Compression in Deep Neural Networks
von: Patel, Niket, et al.
Veröffentlicht: (2024)