Buchumschlag

A Generalized Information Bottleneck Theory of Deep Learning

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Westphal, Charles, Hailes, Stephen, Musolesi, Mirco
Format:	Preprint
Veröffentlicht:	2025
Schlagworte:	Machine Learning Information Theory
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Information-Theoretic State Variable Selection for Reinforcement Learning
von: Westphal, Charles, et al.
Veröffentlicht: (2024)

Partial Information Decomposition for Data Interpretability and Feature Selection
von: Westphal, Charles, et al.
Veröffentlicht: (2024)

Mutual Information Preserving Neural Network Pruning
von: Westphal, Charles, et al.
Veröffentlicht: (2024)

Feature Selection for Network Intrusion Detection
von: Westphal, Charles, et al.
Veröffentlicht: (2024)

Graph Reinforcement Learning for Combinatorial Optimization: A Survey and Unifying Perspective
von: Darvariu, Victor-Alexandru, et al.
Veröffentlicht: (2024)

Dynamics of Moral Behavior in Heterogeneous Populations of Learning Agents
von: Tennant, Elizaveta, et al.
Veröffentlicht: (2024)

Tree Search in DAG Space with Model-based Reinforcement Learning for Causal Discovery
von: Darvariu, Victor-Alexandru, et al.
Veröffentlicht: (2023)

Moral Alignment for LLM Agents
von: Tennant, Elizaveta, et al.
Veröffentlicht: (2024)

Hybrid Approaches for Moral Value Alignment in AI Agents: a Manifesto
von: Tennant, Elizaveta, et al.
Veröffentlicht: (2023)

Large Language Models are Effective Priors for Causal Graph Discovery
von: Darvariu, Victor-Alexandru, et al.
Veröffentlicht: (2024)

Graph Neural Modeling of Network Flows
von: Darvariu, Victor-Alexandru, et al.
Veröffentlicht: (2022)

Opponent Shaping in LLM Agents
von: Segura, Marta Emili Garcia, et al.
Veröffentlicht: (2025)

Trust-based Consensus in Multi-Agent Reinforcement Learning Systems
von: Fung, Ho Long, et al.
Veröffentlicht: (2022)

Copyright in Generative Deep Learning
von: Franceschelli, Giorgio, et al.
Veröffentlicht: (2021)

Distributed Information Bottleneck Theory for Multi-Modal Task-Aware Semantic Communication
von: Zhou, Yujie, et al.
Veröffentlicht: (2025)

Structured IB: Improving Information Bottleneck with Structured Feature Learning
von: Yang, Hanzhe, et al.
Veröffentlicht: (2024)

Projection Head is Secretly an Information Bottleneck
von: Ouyang, Zhuo, et al.
Veröffentlicht: (2025)

Cauchy-Schwarz Divergence Information Bottleneck for Regression
von: Yu, Shujian, et al.
Veröffentlicht: (2024)

DeepCreativity: Measuring Creativity with Deep Learning Techniques
von: Franceschelli, Giorgio, et al.
Veröffentlicht: (2022)

Differentiable Information Bottleneck for Deterministic Multi-view Clustering
von: Yan, Xiaoqiang, et al.
Veröffentlicht: (2024)

Do Agents Dream of Electric Sheep?: Improving Generalization in Reinforcement Learning through Generative Learning
von: Franceschelli, Giorgio, et al.
Veröffentlicht: (2024)

Statistically Valid Information Bottleneck via Multiple Hypothesis Testing
von: Farzaneh, Amirmohammad, et al.
Veröffentlicht: (2024)

Advancing Deep Active Learning & Data Subset Selection: Unifying Principles with Information-Theory Intuitions
von: Kirsch, Andreas
Veröffentlicht: (2024)

Reinforcement Learning Discovers Efficient Decentralized Graph Path Search Strategies
von: Pisacane, Alexei, et al.
Veröffentlicht: (2024)

OVA-IB: One vs All Information Bottleneck for Multi-Modal Alignment
von: Li, Tianchao, et al.
Veröffentlicht: (2026)

VNDUQE: Information-Theoretic Novelty Detection using Deep Variational Information Bottleneck
von: Gondkar, Aryan, et al.
Veröffentlicht: (2026)

Minimum Entropy Coupling with Bottleneck
von: Ebrahimi, M. Reza, et al.
Veröffentlicht: (2024)

Reinforcement Learning for Generative AI: State of the Art, Opportunities and Open Research Challenges
von: Franceschelli, Giorgio, et al.
Veröffentlicht: (2023)

Bridging Algorithmic Information Theory and Machine Learning: A New Approach to Kernel Learning
von: Hamzi, Boumediene, et al.
Veröffentlicht: (2023)

The Causal Information Bottleneck and Optimal Causal Variable Abstractions
von: Simoes, Francisco N. F. Q., et al.
Veröffentlicht: (2024)

Information-Theoretic Generalization Bounds for Deep Neural Networks
von: He, Haiyun, et al.
Veröffentlicht: (2024)

Tackling Distribution Shifts in Task-Oriented Communication with Information Bottleneck
von: Li, Hongru, et al.
Veröffentlicht: (2024)

The Alignment Bottleneck
von: Cao, Wenjun
Veröffentlicht: (2025)

Deep Variational Multivariate Information Bottleneck -- A Framework for Variational Losses
von: Abdelaleem, Eslam, et al.
Veröffentlicht: (2023)

Creativity and Machine Learning: A Survey
von: Franceschelli, Giorgio, et al.
Veröffentlicht: (2021)

Heterogeneous Knowledge for Augmented Modular Reinforcement Learning
von: Wolf, Lorenz, et al.
Veröffentlicht: (2023)

Learning to Compress: Local Rank and Information Compression in Deep Neural Networks
von: Patel, Niket, et al.
Veröffentlicht: (2024)

Generalization in Federated Learning: A Conditional Mutual Information Framework
von: Wang, Ziqiao, et al.
Veröffentlicht: (2025)

Flexible Variational Information Bottleneck: Achieving Diverse Compression with a Single Training
von: Kudo, Sota, et al.
Veröffentlicht: (2024)

GeoIB: Geometry-Aware Information Bottleneck via Statistical-Manifold Compression
von: Wang, Weiqi, et al.
Veröffentlicht: (2026)