Buchumschlag

Beyond Single-Model Views for Deep Learning: Optimization versus Generalizability of Stochastic Optimization Algorithms

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Inan, Toki Tahmid, Liu, Mingrui, Shehu, Amarda
Format:	Preprint
Veröffentlicht:	2024
Schlagworte:	Machine Learning
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Foundation Models for AI-Enabled Biological Design
von: Moldwin, Asher, et al.
Veröffentlicht: (2025)

Accounting for Work Zone Disruptions in Traffic Flow Forecasting
von: Lu, Yuanjie, et al.
Veröffentlicht: (2024)

A Nearly Optimal Single Loop Algorithm for Stochastic Bilevel Optimization under Unbounded Smoothness
von: Gong, Xiaochuan, et al.
Veröffentlicht: (2024)

Birdie: Advancing State Space Models with Reward-Driven Objectives and Curricula
von: Blouir, Sam, et al.
Veröffentlicht: (2024)

An Accelerated Algorithm for Stochastic Bilevel Optimization under Unbounded Smoothness
von: Gong, Xiaochuan, et al.
Veröffentlicht: (2024)

Adaptive Algorithms with Sharp Convergence Rates for Stochastic Hierarchical Optimization
von: Gong, Xiaochuan, et al.
Veröffentlicht: (2025)

From Understanding to Creation: A Prerequisite-Free AI Literacy Course with Technical Depth Across Majors
von: Shehu, Amarda
Veröffentlicht: (2026)

Complexity Lower Bounds of Adaptive Gradient Algorithms for Non-convex Stochastic Optimization under Relaxed Smoothness
von: Crawshaw, Michael, et al.
Veröffentlicht: (2025)

On the Convergence of Adam-Type Algorithm for Bilevel Optimization under Unbounded Smoothness
von: Gong, Xiaochuan, et al.
Veröffentlicht: (2025)

Bilevel Optimization under Unbounded Smoothness: A New Algorithm and Convergence Analysis
von: Hao, Jie, et al.
Veröffentlicht: (2024)

Bilevel Optimization with Lower-Level Uniform Convexity: Theory and Algorithm
von: Wu, Yuman, et al.
Veröffentlicht: (2026)

AbFlowNet: Optimizing Antibody-Antigen Binding Energy via Diffusion-GFlowNet Fusion
von: Abir, Abrar Rahman, et al.
Veröffentlicht: (2025)

Noise-Adaptive Layerwise Learning Rates: Accelerating Geometry-Aware Optimization for Deep Neural Network Training
von: Hao, Jie, et al.
Veröffentlicht: (2025)

Single-loop Algorithms for Stochastic Non-convex Optimization with Weakly-Convex Constraints
von: Yang, Ming, et al.
Veröffentlicht: (2025)

Beyond Propagation of Chaos: A Stochastic Algorithm for Mean Field Optimization
von: Tankala, Chandan, et al.
Veröffentlicht: (2025)

Single-Loop Deterministic and Stochastic Interior-Point Algorithms for Nonlinearly Constrained Optimization
von: Curtis, Frank E., et al.
Veröffentlicht: (2024)

humancompatible.train: Implementing Optimization Algorithms for Stochastically-Constrained Stochastic Optimization Problems
von: Kliachkin, Andrii, et al.
Veröffentlicht: (2025)

Estimate-Then-Optimize versus Integrated-Estimation-Optimization versus Sample Average Approximation: A Stochastic Dominance Perspective
von: Elmachtoub, Adam N., et al.
Veröffentlicht: (2023)

Generalized Random Direction Newton Algorithms for Stochastic Optimization
von: Pachal, Soumen, et al.
Veröffentlicht: (2026)

Stochastic Two Points Method for Deep Model Zeroth-order Optimization
von: Pang, Yijiang, et al.
Veröffentlicht: (2024)

Stochastic Approximation Approaches to Group Distributionally Robust Optimization and Beyond
von: Zhang, Lijun, et al.
Veröffentlicht: (2023)

DeepFeatIoT: Unifying Deep Learned, Randomized, and LLM Features for Enhanced IoT Time Series Sensor Data Classification in Smart Industries
von: Inan, Muhammad Sakib Khan, et al.
Veröffentlicht: (2025)

Improved Learning Rates for Stochastic Optimization
von: Li, Shaojie, et al.
Veröffentlicht: (2021)

Finite-time analysis of Multi-timescale Stochastic Optimization Algorithms
von: Kartikey, Kaustubh, et al.
Veröffentlicht: (2026)

Beyond Single-Model Optimization: Preserving Plasticity in Continual Reinforcement Learning
von: Lillo, Lute, et al.
Veröffentlicht: (2026)

Stochastic Weakly Convex Optimization Beyond Lipschitz Continuity
von: Gao, Wenzhi, et al.
Veröffentlicht: (2024)

Adaptive Gradient Regularization: A Faster and Generalizable Optimization Technique for Deep Neural Networks
von: Jiang, Huixiu, et al.
Veröffentlicht: (2024)

End-to-end Deep Reinforcement Learning for Stochastic Multi-objective Optimization in C-VRPTW
von: Abouelrous, Abdo, et al.
Veröffentlicht: (2025)

A Near-Optimal Single-Loop Stochastic Algorithm for Convex Finite-Sum Coupled Compositional Optimization
von: Wang, Bokun, et al.
Veröffentlicht: (2023)

Constrained Online Two-stage Stochastic Optimization: Near Optimal Algorithms via Adversarial Learning
von: Jiang, Jiashuo
Veröffentlicht: (2023)

From Learning to Optimize to Learning Optimization Algorithms
von: Castera, Camille, et al.
Veröffentlicht: (2024)

Federated Learning under Periodic Client Participation and Heterogeneous Data: A New Communication-Efficient Algorithm and Analysis
von: Crawshaw, Michael, et al.
Veröffentlicht: (2024)

Efficient Algorithms for Empirical Group Distributionally Robust Optimization and Beyond
von: Yu, Dingzhi, et al.
Veröffentlicht: (2024)

Constrained Online Two-stage Stochastic Optimization: Algorithm with (and without) Predictions
von: Hu, Piao, et al.
Veröffentlicht: (2024)

Benchmarking Anomaly Detection Algorithms: Deep Learning and Beyond
von: Mehta, Shanay, et al.
Veröffentlicht: (2024)

Near-Optimal Algorithms for Making the Gradient Small in Stochastic Minimax Optimization
von: Chen, Lesi, et al.
Veröffentlicht: (2022)

Faster Algorithms for User-Level Private Stochastic Convex Optimization
von: Lowy, Andrew, et al.
Veröffentlicht: (2024)

On the Convergence of Single-Loop Stochastic Bilevel Optimization with Approximate Implicit Differentiation
von: Zhou, Yubo, et al.
Veröffentlicht: (2026)

Forecast-Then-Optimize Deep Learning Methods
von: Jiang, Jinhang, et al.
Veröffentlicht: (2025)

Explainable Learning Rate Regimes for Stochastic Optimization
von: Yang, Zhuang
Veröffentlicht: (2025)