Buchumschlag

Asymmetry of the Relative Entropy in the Regularization of Empirical Risk Minimization

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Daunas, Francisco, Esnaola, Iñaki, Perlaza, Samir M., Poor, H. Vincent
Format:	Preprint
Veröffentlicht:	2024
Schlagworte:	Machine Learning Information Theory
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Equivalence of the Empirical Risk Minimization to Regularization on the Family of f-Divergences
von: Daunas, Francisco, et al.
Veröffentlicht: (2024)

Empirical Risk Minimization with $f$-Divergence Regularization
von: Daunas, Francisco, et al.
Veröffentlicht: (2026)

Empirical Risk Minimization with Relative Entropy Regularization
von: Perlaza, Samir M., et al.
Veröffentlicht: (2022)

A Dual Optimization View to Empirical Risk Minimization with f-Divergence Regularization
von: Daunas, Francisco, et al.
Veröffentlicht: (2025)

Decentralized Machine Learning with Centralized Performance Guarantees via Gibbs Algorithms
von: Bermudez, Yaiza, et al.
Veröffentlicht: (2026)

Generalization Error of $f$-Divergence Stabilized Algorithms via Duality
von: Daunas, Francisco, et al.
Veröffentlicht: (2025)

Proofs for Folklore Theorems on the Radon-Nikodym Derivative
von: Bermudez, Yaiza, et al.
Veröffentlicht: (2025)

The Generalization Error of Supervised Machine Learning Algorithms
von: Perlaza, Samir M., et al.
Veröffentlicht: (2024)

Variations on the Expectation due to Changes in the Probability Measure
von: Perlaza, Samir M., et al.
Veröffentlicht: (2025)

Leveraging Noisy Observations in Zero-Sum Games
von: Athanasakos, Emmanouil M, et al.
Veröffentlicht: (2024)

Fast Computation of Optimal Transport via Entropy-Regularized Extragradient Methods
von: Li, Gen, et al.
Veröffentlicht: (2023)

Simultaneous Information and Energy Transmission with Short Packets and Finite Constellations
von: Zuhra, Sadaf ul, et al.
Veröffentlicht: (2024)

An Elementary Approach to Scheduling in Generative Diffusion Models
von: Sun, Qiang, et al.
Veröffentlicht: (2026)

A Memory-Based Reinforcement Learning Approach to Integrated Sensing and Communication
von: Nikbakht, Homa, et al.
Veröffentlicht: (2024)

$L^1$ Estimation: On the Optimality of Linear Estimators
von: Barnes, Leighton P., et al.
Veröffentlicht: (2023)

Submodularity of Mutual Information for Multivariate Gaussian Sources with Additive Noise
von: Crowley, George, et al.
Veröffentlicht: (2024)

Adversarial Water-Filling: Theory, Algorithms and Foundation Model
von: Tong, Xindi, et al.
Veröffentlicht: (2026)

Generalization and Robustness of the Tilted Empirical Risk
von: Aminian, Gholamali, et al.
Veröffentlicht: (2024)

Collaborative Inference over Wireless Channels with Feature Differential Privacy
von: Seif, Mohamed, et al.
Veröffentlicht: (2024)

Adversary-Aware Private Inference over Wireless Channels
von: Seif, Mohamed, et al.
Veröffentlicht: (2025)

Improved Information Theoretic Generalization Bounds for Distributed and Federated Learning
von: Barnes, L. P., et al.
Veröffentlicht: (2022)

Differentially Private Spectral Graph Clustering: Balancing Privacy, Accuracy, and Efficiency
von: Koskela, Antti, et al.
Veröffentlicht: (2025)

Accelerating Relative Entropy Coding with Space Partitioning
von: He, Jiajun, et al.
Veröffentlicht: (2024)

Best Arm Identification with Minimal Regret
von: Yang, Junwen, et al.
Veröffentlicht: (2024)

Indexed Minimum Empirical Divergence-Based Algorithms for Linear Bandits
von: Bian, Jie, et al.
Veröffentlicht: (2024)

Empirical Bayes Estimation for Lasso-Type Regularizers: Analysis of Automatic Relevance Determination
von: Yoshida, Tsukasa, et al.
Veröffentlicht: (2025)

Decoupled Entropy Minimization
von: Ma, Jing, et al.
Veröffentlicht: (2025)

Neuromorphic Wireless Split Computing with Multi-Level Spikes
von: Wu, Dengyu, et al.
Veröffentlicht: (2024)

Neuromorphic Wireless Split Computing with Resonate-and-Fire Neurons
von: Wu, Dengyu, et al.
Veröffentlicht: (2025)

Fundamental Properties of Causal Entropy and Information Gain
von: Simoes, Francisco N. F. Q., et al.
Veröffentlicht: (2024)

Asymptotically Optimal Change Detection for Unnormalized Pre- and Post-Change Distributions
von: Adibi, Arman, et al.
Veröffentlicht: (2024)

Digital versus Analog Transmissions for Federated Learning over Wireless Networks
von: Yao, Jiacheng, et al.
Veröffentlicht: (2024)

Causal Entropy and Information Gain for Measuring Causal Control
von: Simoes, Francisco Nunes Ferreira Quialheiro, et al.
Veröffentlicht: (2023)

Adaptive Federated Learning Over the Air
von: Wang, Chenhao, et al.
Veröffentlicht: (2024)

Minimum Entropy Coupling with Bottleneck
von: Ebrahimi, M. Reza, et al.
Veröffentlicht: (2024)

$L_2$-Regularized Empirical Risk Minimization Guarantees Small Smooth Calibration Error
von: Fujisawa, Masahiro, et al.
Veröffentlicht: (2025)

On the Benefits of Free Exploration for Regret Minimization in Multi-Armed Bandits
von: Hou, Yunlong, et al.
Veröffentlicht: (2026)

Rethinking Resource Management in Edge Learning: A Joint Pre-training and Fine-tuning Design Paradigm
von: Lyu, Zhonghao, et al.
Veröffentlicht: (2024)

Decentralized Federated Learning Over Imperfect Communication Channels
von: Li, Weicai, et al.
Veröffentlicht: (2024)

Minimal Communication-Cost Statistical Learning
von: Sefidgaran, Milad, et al.
Veröffentlicht: (2024)