Buchumschlag

An Information-Theoretic Framework for Out-of-Distribution Generalization with Applications to Stochastic Gradient Langevin Dynamics

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Liu, Wenliang, Yu, Guanding, Wang, Lele, Liao, Renjie
Format:	Preprint
Veröffentlicht:	2024
Schlagworte:	Information Theory Machine Learning
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

A PAC-Bayesian Analysis of Channel-Induced Degradation in Edge Inference
von: He, Yangshuo, et al.
Veröffentlicht: (2026)

Improved Information Theoretic Generalization Bounds for Distributed and Federated Learning
von: Barnes, L. P., et al.
Veröffentlicht: (2022)

Robustness in Wireless Distributed Learning: An Information-Theoretic Analysis
von: He, Yangshuo, et al.
Veröffentlicht: (2024)

InfoDPCCA: Information-Theoretic Dynamic Probabilistic Canonical Correlation Analysis
von: Tang, Shiqin, et al.
Veröffentlicht: (2025)

Characterizing Dependence of Samples along the Langevin Dynamics and Algorithms via Contraction of $Φ$-Mutual Information
von: Liang, Jiaming, et al.
Veröffentlicht: (2024)

Information-Theoretic Framework for Understanding Modern Machine-Learning
von: Feder, Meir, et al.
Veröffentlicht: (2025)

Directed Information $γ$-covering: An Information-Theoretic Framework for Context Engineering
von: Huang, Hai
Veröffentlicht: (2025)

Theoretically Grounded Framework for LLM Watermarking: A Distribution-Adaptive Approach
von: He, Haiyun, et al.
Veröffentlicht: (2024)

On the Generalization for Transfer Learning: An Information-Theoretic Analysis
von: Wu, Xuetong, et al.
Veröffentlicht: (2022)

On the Generalization of Knowledge Distillation: An Information-Theoretic View
von: Li, Bingying, et al.
Veröffentlicht: (2026)

An Effective Information Theoretic Framework for Channel Pruning
von: Chen, Yihao, et al.
Veröffentlicht: (2024)

A Theoretical Framework for Statistical Evaluability of Generative Models
von: Aiyer, Shashaank, et al.
Veröffentlicht: (2026)

Information-Theoretic Generalization Bounds for Deep Neural Networks
von: He, Haiyun, et al.
Veröffentlicht: (2024)

Tighter Information-Theoretic Generalization Bounds via a Novel Class of Change of Measure Inequalities
von: Liu, Yanxiao, et al.
Veröffentlicht: (2026)

Information-Theoretic Generative Clustering of Documents
von: Du, Xin, et al.
Veröffentlicht: (2024)

Out-of-Distribution Detection using Maximum Entropy Coding
von: Abolfazli, Mojtaba, et al.
Veröffentlicht: (2024)

Information-Theoretic Measures on Lattices for High-Order Interactions
von: Liu, Zhaolu, et al.
Veröffentlicht: (2024)

Information-Theoretic Discrete Diffusion
von: Jeon, Moongyu, et al.
Veröffentlicht: (2025)

Two Facets of SDE Under an Information-Theoretic Lens: Generalization of SGD via Training Trajectories and via Terminal States
von: Wang, Ziqiao, et al.
Veröffentlicht: (2022)

Conditional Diffusion Under Linear Constraints: Langevin Mixing and Information-Theoretic Guarantees
von: Aghapour, Ahmad, et al.
Veröffentlicht: (2026)

On the Hardness of Unsupervised Domain Adaptation: Optimal Learners and Information-Theoretic Perspective
von: Dong, Zhiyi, et al.
Veröffentlicht: (2025)

Generalization in Federated Learning: A Conditional Mutual Information Framework
von: Wang, Ziqiao, et al.
Veröffentlicht: (2025)

An Information Theoretic Perspective on Conformal Prediction
von: Correia, Alvaro H. C., et al.
Veröffentlicht: (2024)

An Information-Theoretic Analysis of Temporal GNNs
von: Farzaneh, Amirmohammad
Veröffentlicht: (2024)

An Information-Theoretic Analysis of In-Context Learning
von: Jeon, Hong Jun, et al.
Veröffentlicht: (2024)

Information-Theoretic Proofs for Diffusion Sampling
von: Reeves, Galen, et al.
Veröffentlicht: (2025)

Information Theoretic Perspective on Representation Learning
von: Pereg, Deborah, et al.
Veröffentlicht: (2026)

Distributional Information Embedding: A Framework for Multi-bit Watermarking
von: He, Haiyun, et al.
Veröffentlicht: (2025)

A General Error-Theoretical Analysis Framework for Constructing Compression Strategies
von: Zhang, Boyang, et al.
Veröffentlicht: (2025)

Leave-One-Out Analysis for Nonconvex Robust Matrix Completion with General Thresholding Functions
von: Wang, Tianming, et al.
Veröffentlicht: (2024)

VBO-MI: A Fully Gradient-Based Bayesian Optimization Framework Using Variational Mutual Information Estimation
von: Mirkarimi, Farhad
Veröffentlicht: (2026)

Dual-Mind World Models: A General Framework for Learning in Dynamic Wireless Networks
von: Wang, Lingyi, et al.
Veröffentlicht: (2025)

Information Theoretic Learning for Diffusion Models with Warm Start
von: Shen, Yirong, et al.
Veröffentlicht: (2025)

Unifying Information-Theoretic and Pair-Counting Clustering Similarity
von: Gates, Alexander J.
Veröffentlicht: (2025)

Generalized Exponentiated Gradient Algorithms and Their Application to On-Line Portfolio Selection
von: Cichocki, Andrzej, et al.
Veröffentlicht: (2024)

Context Channel Capacity: An Information-Theoretic Framework for Understanding Catastrophic Forgetting
von: Cheng, Ran
Veröffentlicht: (2026)

A General Framework for Interpretable Neural Learning based on Local Information-Theoretic Goal Functions
von: Makkeh, Abdullah, et al.
Veröffentlicht: (2023)

Neural Networks Learn Generic Multi-Index Models Near Information-Theoretic Limit
von: Zhang, Bohan, et al.
Veröffentlicht: (2025)

Information Theoretic Guarantees For Policy Alignment In Large Language Models
von: Mroueh, Youssef
Veröffentlicht: (2024)

Information-Theoretic Thresholds for the Alignments of Partially Correlated Graphs
von: Huang, Dong, et al.
Veröffentlicht: (2024)