Buchumschlag

Learning Dynamics of Deep Linear Networks Beyond the Edge of Stability

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Ghosh, Avrajit, Kwon, Soo Min, Wang, Rongrong, Ravishankar, Saiprasad, Qu, Qing
Format:	Preprint
Veröffentlicht:	2025
Schlagworte:	Machine Learning
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Variational Learning Finds Flatter Solutions at the Edge of Stability
von: Ghosh, Avrajit, et al.
Veröffentlicht: (2025)

Optimal Eye Surgeon: Finding Image Priors through Sparse Generators at Initialization
von: Ghosh, Avrajit, et al.
Veröffentlicht: (2024)

Pruning Unrolled Networks (PUN) at Initialization for MRI Reconstruction Improves Generalization
von: Liang, Shijun, et al.
Veröffentlicht: (2024)

Decoupled Data Consistency with Diffusion Purification for Image Restoration
von: Li, Xiang, et al.
Veröffentlicht: (2024)

Understanding Untrained Deep Models for Inverse Problems: Algorithms and Theory
von: Alkhouri, Ismail, et al.
Veröffentlicht: (2025)

Efficient Compression of Overparameterized Deep Models through Low-Dimensional Learning Dynamics
von: Kwon, Soo Min, et al.
Veröffentlicht: (2023)

Improving Generalization of Complex Models under Unbounded Loss Using PAC-Bayes Bounds
von: Zhang, Xitong, et al.
Veröffentlicht: (2023)

UGoDIT: Unsupervised Group Deep Image Prior Via Transferable Weights
von: Liang, Shijun, et al.
Veröffentlicht: (2025)

Adaptive Local Neighborhood-based Neural Networks for MR Image Reconstruction from Undersampled Data
von: Liang, Shijun, et al.
Veröffentlicht: (2022)

SITCOM: Step-wise Triple-Consistent Diffusion Sampling for Inverse Problems
von: Alkhouri, Ismail, et al.
Veröffentlicht: (2024)

BLAST: Block-Level Adaptive Structured Matrices for Efficient Deep Neural Network Inference
von: Lee, Changwoo, et al.
Veröffentlicht: (2024)

Robust Physics-based Deep MRI Reconstruction Via Diffusion Purification
von: Alkhouri, Ismail, et al.
Veröffentlicht: (2023)

Sequential Diffusion-Guided Deep Image Prior For Medical Image Reconstruction
von: Liang, Shijun, et al.
Veröffentlicht: (2024)

Analysis of Deep Image Prior and Exploiting Self-Guidance for Image Reconstruction
von: Liang, Shijun, et al.
Veröffentlicht: (2024)

Tada-DIP: Input-adaptive Deep Image Prior for One-shot 3D Image Reconstruction
von: Bell, Evan, et al.
Veröffentlicht: (2025)

NERD: Network-Regularized Diffusion Sampling For 3D Computed Tomography
von: Liang, Shijun, et al.
Veröffentlicht: (2025)

A Dataless Reinforcement Learning Approach to Rounding Hyperplane Optimization for Max-Cut
von: Maliakal, Gabriel, et al.
Veröffentlicht: (2025)

Out-of-Distribution Generalization of In-Context Learning: A Low-Dimensional Subspace Perspective
von: Kwon, Soo Min, et al.
Veröffentlicht: (2025)

Feature Learning Beyond the Edge of Stability
von: Terjék, Dávid
Veröffentlicht: (2025)

Hard labels sampled from sparse targets mislead rotation invariant algorithms
von: Ghosh, Avrajit, et al.
Veröffentlicht: (2026)

Compressible Dynamics in Deep Overparameterized Low-Rank Learning & Adaptation
von: Yaras, Can, et al.
Veröffentlicht: (2024)

From Lazy to Rich: Exact Learning Dynamics in Deep Linear Networks
von: Dominé, Clémentine C. J., et al.
Veröffentlicht: (2024)

Structure-Preserving Network Compression Via Low-Rank Induced Training Through Linear Layers Composition
von: Zhang, Xitong, et al.
Veröffentlicht: (2024)

RL-SPH: Learning to Achieve Feasible Solutions for Integer Linear Programs
von: Lee, Tae-Hoon, et al.
Veröffentlicht: (2024)

Deep Active Learning with Noise Stability
von: Li, Xingjian, et al.
Veröffentlicht: (2022)

L-FAME: Longitudinal Focused Attention Meditation EEG Dataset and Benchmark
von: Li, Angqi, et al.
Veröffentlicht: (2026)

On the Stability of Neural Networks in Deep Learning
von: Delattre, Blaise
Veröffentlicht: (2025)

ZC-Swish: Stabilizing Deep BN-Free Networks for Edge and Micro-Batch Applications
von: Basak, Suvinava
Veröffentlicht: (2026)

Random Matrix Theory for Deep Learning: Beyond Eigenvalues of Linear Models
von: Liao, Zhenyu, et al.
Veröffentlicht: (2025)

Optimizer Dynamics at the Edge of Stability with Differential Privacy
von: Hussain, Ayana, et al.
Veröffentlicht: (2025)

LoMETab: Beyond Rank-1 Ensembles for Tabular Deep Learning
von: Choi, Changryeol, et al.
Veröffentlicht: (2026)

ForcingDAS: Unified and Robust Data Assimilation via Diffusion Forcing
von: Jia, Yixuan, et al.
Veröffentlicht: (2026)

Linearly Separable Features in Shallow Nonlinear Networks: Width Scales Polynomially with Intrinsic Data Dimension
von: Xu, Alec S., et al.
Veröffentlicht: (2025)

A Lightweight Deep Learning Model for Automatic Modulation Classification using Dual Path Deep Residual Shrinkage Network
von: Suman, Prakash, et al.
Veröffentlicht: (2025)

Distributed Learning of Generalized Linear Causal Networks
von: Ye, Qiaoling, et al.
Veröffentlicht: (2022)

Understanding Learning Invariance in Deep Linear Networks
von: Duan, Hao, et al.
Veröffentlicht: (2025)

GraphEdge: Dynamic Graph Partition and Task Scheduling for GNNs Computing in Edge Network
von: Xiao, Wenjing, et al.
Veröffentlicht: (2025)

An Overview of Low-Rank Structures in the Training and Adaptation of Large Models
von: Balzano, Laura, et al.
Veröffentlicht: (2025)

Criteria and Bias of Parameterized Linear Regression under Edge of Stability Regime
von: Zhang, Peiyuan, et al.
Veröffentlicht: (2024)

Does Sparse Connectivity Improve Generalization? Convolutional Networks Below the Edge of Stability
von: Liang, Tongtong, et al.
Veröffentlicht: (2026)