A Minimalist Example of Edge-of-Stability and Progressive Sharpening
Fuente:
arXiv
Gespeichert in:
| Hauptverfasser: | Liu, Liming, Zhang, Zixuan, Du, Simon, Zhao, Tuo |
|---|---|
| Format: | Preprint |
| Veröffentlicht: |
2025
|
| Schlagworte: | |
| Online-Zugang: | |
| Tags: |
Tag hinzufügen
Keine Tags, Fügen Sie den ersten Tag hinzu!
|
Ähnliche Einträge
BackPlay: Head-Only Look-Back Self-Correction for Diffusion Language Models
von: Liu, Liming, et al.
Veröffentlicht: (2026)
von: Liu, Liming, et al.
Veröffentlicht: (2026)
COSMOS: A Hybrid Adaptive Optimizer for Memory-Efficient Training of LLMs
von: Liu, Liming, et al.
Veröffentlicht: (2025)
von: Liu, Liming, et al.
Veröffentlicht: (2025)
On the Interplay Between Stepsize Tuning and Progressive Sharpening
von: Roulet, Vincent, et al.
Veröffentlicht: (2023)
von: Roulet, Vincent, et al.
Veröffentlicht: (2023)
Understanding Sharpness Dynamics in NN Training with a Minimalist Example: The Effects of Dataset Difficulty, Depth, Stochasticity, and More
von: Yoo, Geonhui, et al.
Veröffentlicht: (2025)
von: Yoo, Geonhui, et al.
Veröffentlicht: (2025)
Diffusion Model for Manifold Data: Score Decomposition, Curvature, and Statistical Complexity
von: Zhang, Zixuan, et al.
Veröffentlicht: (2026)
von: Zhang, Zixuan, et al.
Veröffentlicht: (2026)
Minimalist Softmax Attention Provably Learns Constrained Boolean Functions
von: Hu, Jerry Yao-Chieh, et al.
Veröffentlicht: (2025)
von: Hu, Jerry Yao-Chieh, et al.
Veröffentlicht: (2025)
NorMuon: Making Muon more efficient and scalable
von: Li, Zichong, et al.
Veröffentlicht: (2025)
von: Li, Zichong, et al.
Veröffentlicht: (2025)
Differential Smoothing Mitigates Sharpening and Improves LLM Reasoning
von: Gai, Jingchu, et al.
Veröffentlicht: (2025)
von: Gai, Jingchu, et al.
Veröffentlicht: (2025)
Provably Unlearnable Data Examples
von: Wang, Derui, et al.
Veröffentlicht: (2024)
von: Wang, Derui, et al.
Veröffentlicht: (2024)
A Minimalist Prompt for Zero-Shot Policy Learning
von: Song, Meng, et al.
Veröffentlicht: (2024)
von: Song, Meng, et al.
Veröffentlicht: (2024)
Robust Reinforcement Learning from Corrupted Human Feedback
von: Bukharin, Alexander, et al.
Veröffentlicht: (2024)
von: Bukharin, Alexander, et al.
Veröffentlicht: (2024)
Self-Consistency via Marginal Sharpening
von: Arzhantsev, Aleksei, et al.
Veröffentlicht: (2026)
von: Arzhantsev, Aleksei, et al.
Veröffentlicht: (2026)
Rewarding the Unlikely: Lifting GRPO Beyond Distribution Sharpening
von: He, Andre, et al.
Veröffentlicht: (2025)
von: He, Andre, et al.
Veröffentlicht: (2025)
Understanding Pan-Sharpening via Generalized Inverse
von: Liu, Shiqi, et al.
Veröffentlicht: (2023)
von: Liu, Shiqi, et al.
Veröffentlicht: (2023)
Nonparametric Classification on Low Dimensional Manifolds using Overparameterized Convolutional Residual Networks
von: Zhang, Zixuan, et al.
Veröffentlicht: (2023)
von: Zhang, Zixuan, et al.
Veröffentlicht: (2023)
Soft-Label Caching and Sharpening for Communication-Efficient Federated Distillation
von: Azuma, Kitsuya, et al.
Veröffentlicht: (2025)
von: Azuma, Kitsuya, et al.
Veröffentlicht: (2025)
Graph Transductive Sharpening: Leveraging Unlabeled Predictions in Node Classification
von: Zaz, Brown, et al.
Veröffentlicht: (2026)
von: Zaz, Brown, et al.
Veröffentlicht: (2026)
Beyond Distribution Sharpening: The Importance of Task Rewards
von: Mittal, Sarthak, et al.
Veröffentlicht: (2026)
von: Mittal, Sarthak, et al.
Veröffentlicht: (2026)
Sharpened Lazy Incremental Quasi-Newton Method
von: Lahoti, Aakash, et al.
Veröffentlicht: (2023)
von: Lahoti, Aakash, et al.
Veröffentlicht: (2023)
Self-Improvement in Language Models: The Sharpening Mechanism
von: Huang, Audrey, et al.
Veröffentlicht: (2024)
von: Huang, Audrey, et al.
Veröffentlicht: (2024)
Minimalist Concept Erasure in Generative Models
von: Zhang, Yang, et al.
Veröffentlicht: (2025)
von: Zhang, Yang, et al.
Veröffentlicht: (2025)
The Origin of Edge of Stability
von: Litman, Elon
Veröffentlicht: (2026)
von: Litman, Elon
Veröffentlicht: (2026)
MINTS: Minimalist Thompson Sampling
von: Wang, Kaizheng
Veröffentlicht: (2026)
von: Wang, Kaizheng
Veröffentlicht: (2026)
Persistent Classification: A New Approach to Stability of Data and Adversarial Examples
von: Bell, Brian, et al.
Veröffentlicht: (2024)
von: Bell, Brian, et al.
Veröffentlicht: (2024)
Edge of Stochastic Stability: Revisiting the Edge of Stability for SGD
von: Andreyev, Arseniy, et al.
Veröffentlicht: (2024)
von: Andreyev, Arseniy, et al.
Veröffentlicht: (2024)
Laplacian Canonization: A Minimalist Approach to Sign and Basis Invariant Spectral Embedding
von: Ma, Jiangyan, et al.
Veröffentlicht: (2023)
von: Ma, Jiangyan, et al.
Veröffentlicht: (2023)
A Minimalist Bayesian Framework for Stochastic Optimization
von: Wang, Kaizheng
Veröffentlicht: (2025)
von: Wang, Kaizheng
Veröffentlicht: (2025)
Minimalist Visual Inertial Odometry
von: Pasti, Francesco, et al.
Veröffentlicht: (2026)
von: Pasti, Francesco, et al.
Veröffentlicht: (2026)
SEEN: Sharpening Explanations for Graph Neural Networks using Explanations from Neighborhoods
von: Cho, Hyeoncheol, et al.
Veröffentlicht: (2021)
von: Cho, Hyeoncheol, et al.
Veröffentlicht: (2021)
Laplacian Score Sharpening for Mitigating Hallucination in Diffusion Models
von: C, Barath Chandran., et al.
Veröffentlicht: (2025)
von: C, Barath Chandran., et al.
Veröffentlicht: (2025)
Sharpen Your Flow: Sharpness-Aware Sampling for Flow Matching
von: Gupta, Aditi, et al.
Veröffentlicht: (2026)
von: Gupta, Aditi, et al.
Veröffentlicht: (2026)
RAZOR: Sharpening Knowledge by Cutting Bias with Unsupervised Text Rewriting
von: Yang, Shuo, et al.
Veröffentlicht: (2024)
von: Yang, Shuo, et al.
Veröffentlicht: (2024)
B3C: A Minimalist Approach to Offline Multi-Agent Reinforcement Learning
von: Kim, Woojun, et al.
Veröffentlicht: (2025)
von: Kim, Woojun, et al.
Veröffentlicht: (2025)
SlimMoE: Structured Compression of Large MoE Models via Expert Slimming and Distillation
von: Li, Zichong, et al.
Veröffentlicht: (2025)
von: Li, Zichong, et al.
Veröffentlicht: (2025)
Product-Stability: Provable Convergence for Gradient Descent on the Edge of Stability
von: Gan, Eric
Veröffentlicht: (2026)
von: Gan, Eric
Veröffentlicht: (2026)
Adaptive Gradient Methods at the Edge of Stability
von: Cohen, Jeremy M., et al.
Veröffentlicht: (2022)
von: Cohen, Jeremy M., et al.
Veröffentlicht: (2022)
A Minimalist Method for Fine-tuning Text-to-Image Diffusion Models
von: Miao, Yanting, et al.
Veröffentlicht: (2025)
von: Miao, Yanting, et al.
Veröffentlicht: (2025)
SimPER: A Minimalist Approach to Preference Alignment without Hyperparameters
von: Xiao, Teng, et al.
Veröffentlicht: (2025)
von: Xiao, Teng, et al.
Veröffentlicht: (2025)
Gaussian Match-and-Copy: A Minimalist Benchmark for Studying Transformer Induction
von: Gonon, Antoine, et al.
Veröffentlicht: (2026)
von: Gonon, Antoine, et al.
Veröffentlicht: (2026)
When Sharpening Becomes Collapse: Sampling Bias and Semantic Coupling in RL with Verifiable Rewards
von: Fan, Mingyuan, et al.
Veröffentlicht: (2026)
von: Fan, Mingyuan, et al.
Veröffentlicht: (2026)
Ähnliche Einträge
-
BackPlay: Head-Only Look-Back Self-Correction for Diffusion Language Models
von: Liu, Liming, et al.
Veröffentlicht: (2026) -
COSMOS: A Hybrid Adaptive Optimizer for Memory-Efficient Training of LLMs
von: Liu, Liming, et al.
Veröffentlicht: (2025) -
On the Interplay Between Stepsize Tuning and Progressive Sharpening
von: Roulet, Vincent, et al.
Veröffentlicht: (2023) -
Understanding Sharpness Dynamics in NN Training with a Minimalist Example: The Effects of Dataset Difficulty, Depth, Stochasticity, and More
von: Yoo, Geonhui, et al.
Veröffentlicht: (2025) -
Diffusion Model for Manifold Data: Score Decomposition, Curvature, and Statistical Complexity
von: Zhang, Zixuan, et al.
Veröffentlicht: (2026)