Salvato in:
| Autore principale: | Zhang, Haozhou |
|---|---|
| Natura: | Preprint |
| Pubblicazione: |
2026
|
| Soggetti: | |
| Accesso online: | https://arxiv.org/abs/2605.07067 |
| Tags: |
Aggiungi Tag
Nessun Tag, puoi essere il primo ad aggiungerne!!
|
Documenti analoghi
Chain-of-Thought and Compressed Looped Transformers: A Memory-Budget Separation
di: Zhang, Haozhou
Pubblicazione: (2026)
di: Zhang, Haozhou
Pubblicazione: (2026)
HomeAdam: Adam and AdamW Algorithms Sometimes Go Home to Obtain Better Provable Generalization
di: Huang, Feihu, et al.
Pubblicazione: (2026)
di: Huang, Feihu, et al.
Pubblicazione: (2026)
Navigating LLM Valley: From AdamW to Memory-Efficient and Matrix-Based Optimizers
di: Ranganath, Aditya
Pubblicazione: (2026)
di: Ranganath, Aditya
Pubblicazione: (2026)
Learning Disentangled Equivariant Representation for Explicitly Controllable 3D Molecule Generation
di: Liu, Haoran, et al.
Pubblicazione: (2024)
di: Liu, Haoran, et al.
Pubblicazione: (2024)
Gauge-Equivariant Graph Networks via Self-Interference Cancellation
di: Choi, Yoonhyuk, et al.
Pubblicazione: (2025)
di: Choi, Yoonhyuk, et al.
Pubblicazione: (2025)
Gauge-Equivariant Graph Neural Networks for Lattice Gauge Theories
di: Rayat, Ali, et al.
Pubblicazione: (2026)
di: Rayat, Ali, et al.
Pubblicazione: (2026)
Incorporating Arbitrary Matrix Group Equivariance into KANs
di: Hu, Lexiang, et al.
Pubblicazione: (2024)
di: Hu, Lexiang, et al.
Pubblicazione: (2024)
Disentanglement-Based Equivariant Learning for Compositional VQA
di: Du, Zhou, et al.
Pubblicazione: (2026)
di: Du, Zhou, et al.
Pubblicazione: (2026)
AdamZ: An Enhanced Optimisation Method for Neural Network Training
di: Zaznov, Ilia, et al.
Pubblicazione: (2024)
di: Zaznov, Ilia, et al.
Pubblicazione: (2024)
Novel Dynamic Batch-Sensitive Adam Optimiser for Vehicular Accident Injury Severity Prediction
di: Kyei, Daniel Asare, et al.
Pubblicazione: (2026)
di: Kyei, Daniel Asare, et al.
Pubblicazione: (2026)
Uniform Scaling Limits in AdamW-Trained Transformers
di: Gibson, William, et al.
Pubblicazione: (2026)
di: Gibson, William, et al.
Pubblicazione: (2026)
Monomial Matrix Group Equivariant Neural Functional Networks
di: Tran, Viet-Hoang, et al.
Pubblicazione: (2024)
di: Tran, Viet-Hoang, et al.
Pubblicazione: (2024)
Beyond First-Order: Training LLMs with Stochastic Conjugate Subgradients and AdamW
di: Zhang, Di, et al.
Pubblicazione: (2025)
di: Zhang, Di, et al.
Pubblicazione: (2025)
Optimizer-Induced Mode Connectivity: From AdamW to Muon
di: Zhang, Fangzhao, et al.
Pubblicazione: (2026)
di: Zhang, Fangzhao, et al.
Pubblicazione: (2026)
Equivariant Matrix Function Neural Networks
di: Batatia, Ilyes, et al.
Pubblicazione: (2023)
di: Batatia, Ilyes, et al.
Pubblicazione: (2023)
Equivariant Machine Learning on Graphs with Nonlinear Spectral Filters
di: Lin, Ya-Wei Eileen, et al.
Pubblicazione: (2024)
di: Lin, Ya-Wei Eileen, et al.
Pubblicazione: (2024)
APOLLO: SGD-like Memory, AdamW-level Performance
di: Zhu, Hanqing, et al.
Pubblicazione: (2024)
di: Zhu, Hanqing, et al.
Pubblicazione: (2024)
Learning Chern Numbers of Topological Insulators with Gauge Equivariant Neural Networks
di: Huang, Longde, et al.
Pubblicazione: (2025)
di: Huang, Longde, et al.
Pubblicazione: (2025)
Generalizable Equivariant Diffusion Models for Non-Abelian Lattice Gauge Theory
di: Aarts, Gert, et al.
Pubblicazione: (2026)
di: Aarts, Gert, et al.
Pubblicazione: (2026)
Gauge-Equivariant Intrinsic Neural Operators for Geometry-Consistent Learning of Elliptic PDE Maps
di: Cheng, Pengcheng
Pubblicazione: (2026)
di: Cheng, Pengcheng
Pubblicazione: (2026)
Diagnosing Spectral Ceilings in Equivariant Neural Force Fields
di: Kim, Hyunmog
Pubblicazione: (2026)
di: Kim, Hyunmog
Pubblicazione: (2026)
Implicit Bias of AdamW: $\ell_\infty$ Norm Constrained Optimization
di: Xie, Shuo, et al.
Pubblicazione: (2024)
di: Xie, Shuo, et al.
Pubblicazione: (2024)
Multiple Invertible and Partial-Equivariant Function for Latent Vector Transformation to Enhance Disentanglement in VAEs
di: Jung, Hee-Jun, et al.
Pubblicazione: (2025)
di: Jung, Hee-Jun, et al.
Pubblicazione: (2025)
GIST: Gauge-Invariant Spectral Transformers for Scalable Graph Neural Operators
di: Rigotti, Mattia, et al.
Pubblicazione: (2026)
di: Rigotti, Mattia, et al.
Pubblicazione: (2026)
DP-AdamW: Investigating Decoupled Weight Decay and Bias Correction in Private Deep Learning
di: Chooi, Jay, et al.
Pubblicazione: (2025)
di: Chooi, Jay, et al.
Pubblicazione: (2025)
Compact Matrix Quantum Group Equivariant Neural Networks
di: Pearce-Crump, Edward
Pubblicazione: (2023)
di: Pearce-Crump, Edward
Pubblicazione: (2023)
The Implicit Bias of Adam on Separable Data
di: Zhang, Chenyang, et al.
Pubblicazione: (2024)
di: Zhang, Chenyang, et al.
Pubblicazione: (2024)
Understanding Adam Optimizer via Online Learning of Updates: Adam is FTRL in Disguise
di: Ahn, Kwangjun, et al.
Pubblicazione: (2024)
di: Ahn, Kwangjun, et al.
Pubblicazione: (2024)
CaAdam: Improving Adam optimizer using connection aware methods
di: Genet, Remi, et al.
Pubblicazione: (2024)
di: Genet, Remi, et al.
Pubblicazione: (2024)
DP-FedAdamW: An Efficient Optimizer for Differentially Private Federated Large Models
di: Liu, Jin, et al.
Pubblicazione: (2026)
di: Liu, Jin, et al.
Pubblicazione: (2026)
How to set AdamW's weight decay as you scale model and dataset size
di: Wang, Xi, et al.
Pubblicazione: (2024)
di: Wang, Xi, et al.
Pubblicazione: (2024)
G-RepsNet: A Fast and General Construction of Equivariant Networks for Arbitrary Matrix Groups
di: Basu, Sourya, et al.
Pubblicazione: (2024)
di: Basu, Sourya, et al.
Pubblicazione: (2024)
Building a Chinese Medical Dialogue System: Integrating Large-scale Corpora and Novel Models
di: Wang, Xinyuan, et al.
Pubblicazione: (2024)
di: Wang, Xinyuan, et al.
Pubblicazione: (2024)
A Machine Learning Approach Towards Runtime Optimisation of Matrix Multiplication
di: Xia, Yufan, et al.
Pubblicazione: (2026)
di: Xia, Yufan, et al.
Pubblicazione: (2026)
Matrix Completion via Residual Spectral Matching
di: Chen, Ziyuan, et al.
Pubblicazione: (2024)
di: Chen, Ziyuan, et al.
Pubblicazione: (2024)
LLM Gesticulator: Leveraging Large Language Models for Scalable and Controllable Co-Speech Gesture Synthesis
di: Pang, Haozhou, et al.
Pubblicazione: (2024)
di: Pang, Haozhou, et al.
Pubblicazione: (2024)
Adam-HNAG: A Convergent Reformulation of Adam with Accelerated Rate
di: Yu, Yaxin, et al.
Pubblicazione: (2026)
di: Yu, Yaxin, et al.
Pubblicazione: (2026)
First-Passage Prediction of Grokking Delay: ACalibrated Law under AdamW with Causal Validation
di: Khanh, Truong Xuan, et al.
Pubblicazione: (2026)
di: Khanh, Truong Xuan, et al.
Pubblicazione: (2026)
Disentangled (Un)Controllable Features
di: Kooi, Jacob E., et al.
Pubblicazione: (2022)
di: Kooi, Jacob E., et al.
Pubblicazione: (2022)
Matrix-free Neural Preconditioner for the Dirac Operator in Lattice Gauge Theory
di: Sun, Yixuan, et al.
Pubblicazione: (2025)
di: Sun, Yixuan, et al.
Pubblicazione: (2025)
Documenti analoghi
-
Chain-of-Thought and Compressed Looped Transformers: A Memory-Budget Separation
di: Zhang, Haozhou
Pubblicazione: (2026) -
HomeAdam: Adam and AdamW Algorithms Sometimes Go Home to Obtain Better Provable Generalization
di: Huang, Feihu, et al.
Pubblicazione: (2026) -
Navigating LLM Valley: From AdamW to Memory-Efficient and Matrix-Based Optimizers
di: Ranganath, Aditya
Pubblicazione: (2026) -
Learning Disentangled Equivariant Representation for Explicitly Controllable 3D Molecule Generation
di: Liu, Haoran, et al.
Pubblicazione: (2024) -
Gauge-Equivariant Graph Networks via Self-Interference Cancellation
di: Choi, Yoonhyuk, et al.
Pubblicazione: (2025)