Accelerating Neural Network Training: An Analysis of the AlgoPerf Competition
Fuente:
arXiv
Enregistré dans:
| Auteurs principaux: | Kasimbeg, Priya, Schneider, Frank, Eschenhagen, Runa, Bae, Juhan, Sastry, Chandramouli Shama, Saroufim, Mark, Feng, Boyuan, Wright, Less, Yang, Edward Z., Nado, Zachary, Medapati, Sourabh, Hennig, Philipp, Rabbat, Michael, Dahl, George E. |
|---|---|
| Format: | Preprint |
| Publié: |
2025
|
| Sujets: | |
| Accès en ligne: | |
| Tags: |
Ajouter un tag
Pas de tags, Soyez le premier à ajouter un tag!
|
Documents similaires
Training neural networks faster with minimal tuning using pre-computed lists of hyperparameters for NAdamW
par: Medapati, Sourabh, et autres
Publié: (2025)
par: Medapati, Sourabh, et autres
Publié: (2025)
Benchmarking Neural Network Training Algorithms
par: Dahl, George E., et autres
Publié: (2023)
par: Dahl, George E., et autres
Publié: (2023)
How far away are truly hyperparameter-free learning algorithms?
par: Kasimbeg, Priya, et autres
Publié: (2025)
par: Kasimbeg, Priya, et autres
Publié: (2025)
Influence Functions for Scalable Data Attribution in Diffusion Models
par: Mlodozeniec, Bruno, et autres
Publié: (2024)
par: Mlodozeniec, Bruno, et autres
Publié: (2024)
Kronecker-Factored Approximate Curvature for Modern Neural Network Architectures
par: Eschenhagen, Runa, et autres
Publié: (2023)
par: Eschenhagen, Runa, et autres
Publié: (2023)
Can We Remove the Square-Root in Adaptive Gradient Methods? A Second-Order Perspective
par: Lin, Wu, et autres
Publié: (2024)
par: Lin, Wu, et autres
Publié: (2024)
Spectral-factorized Positive-definite Curvature Learning for NN Training
par: Lin, Wu, et autres
Publié: (2025)
par: Lin, Wu, et autres
Publié: (2025)
What do near-optimal learning rate schedules look like?
par: Naganuma, Hiroki, et autres
Publié: (2026)
par: Naganuma, Hiroki, et autres
Publié: (2026)
Adaptive Gradient Methods at the Edge of Stability
par: Cohen, Jeremy M., et autres
Publié: (2022)
par: Cohen, Jeremy M., et autres
Publié: (2022)
Test-Time Training for Depression Detection
par: Dumpala, Sri Harsha, et autres
Publié: (2024)
par: Dumpala, Sri Harsha, et autres
Publié: (2024)
Better Hessians Matter: Studying the Impact of Curvature Approximations in Influence Functions
par: Hong, Steve, et autres
Publié: (2025)
par: Hong, Steve, et autres
Publié: (2025)
Kronecker-factored Approximate Curvature (KFAC) From Scratch
par: Dangel, Felix, et autres
Publié: (2025)
par: Dangel, Felix, et autres
Publié: (2025)
DiffAug: A Diffuse-and-Denoise Augmentation for Training Robust Classifiers
par: Sastry, Chandramouli, et autres
Publié: (2023)
par: Sastry, Chandramouli, et autres
Publié: (2023)
IF-GUIDE: Influence Function-Guided Detoxification of LLMs
par: Coalson, Zachary, et autres
Publié: (2025)
par: Coalson, Zachary, et autres
Publié: (2025)
Learning by solving differential equations
par: Dherin, Benoit, et autres
Publié: (2025)
par: Dherin, Benoit, et autres
Publié: (2025)
EXAMINING LOCAL SOCIAL IDENTITIES THROUGH PATTERNS OF BIOLOGICAL AND CULTURAL VARIATION IN THE SOLCOR AYLLU, SAN PEDRO DE ATACAMA, CHILE
par: Kristin L. Nado
Publié: (2012)
par: Kristin L. Nado
Publié: (2012)
Clarifying Shampoo: Adapting Spectral Descent to Stochasticity and the Parameter Trajectory
par: Eschenhagen, Runa, et autres
Publié: (2026)
par: Eschenhagen, Runa, et autres
Publié: (2026)
Position: Curvature Matrices Should Be Democratized via Linear Operators
par: Dangel, Felix, et autres
Publié: (2025)
par: Dangel, Felix, et autres
Publié: (2025)
Swarming behaviour associated with group cohesion in tree-dwelling bats
par: Naďo, Ladislav, et autres
Publié: (2015)
par: Naďo, Ladislav, et autres
Publié: (2015)
Pre-trained Gaussian Processes for Bayesian Optimization
par: Wang, Zi, et autres
Publié: (2021)
par: Wang, Zi, et autres
Publié: (2021)
PerfDojo: Automated ML Library Generation for Heterogeneous Architectures
par: Ivanov, Andrei, et autres
Publié: (2025)
par: Ivanov, Andrei, et autres
Publié: (2025)
AlgoSimBench: Identifying Algorithmically Similar Problems for Competitive Programming
par: Li, Jierui, et autres
Publié: (2025)
par: Li, Jierui, et autres
Publié: (2025)
Purifying Shampoo: Investigating Shampoo's Heuristics by Decomposing its Preconditioner
par: Eschenhagen, Runa, et autres
Publié: (2025)
par: Eschenhagen, Runa, et autres
Publié: (2025)
Understanding and Improving Shampoo and SOAP via Kullback-Leibler Minimization
par: Lin, Wu, et autres
Publié: (2025)
par: Lin, Wu, et autres
Publié: (2025)
Artificial Intelligence in Pediatric Bronchoscopy: Current Evidence and Future Perspectives
par: Patrick Stafler, et autres
Publié: (2026)
par: Patrick Stafler, et autres
Publié: (2026)
Towards flexible perception with visual memory
par: Geirhos, Robert, et autres
Publié: (2024)
par: Geirhos, Robert, et autres
Publié: (2024)
Accelerating a Triton Fused Kernel for W4A16 Quantized Inference with SplitK work decomposition
par: Hoque, Adnan, et autres
Publié: (2024)
par: Hoque, Adnan, et autres
Publié: (2024)
La educación ambiental superior en América Latina: una evaluación de la oferta de posgrados ambientales
par: María Luisa Eschenhagen
Publié: (2007)
par: María Luisa Eschenhagen
Publié: (2007)
RETOS EPISTEMOLÓGICOS Y TEÓRICOS PARA EL CURRICULUM AMBIENTAL DE POSGRADOS
par: María Luisa Eschenhagen
Publié: (2008)
par: María Luisa Eschenhagen
Publié: (2008)
Vivir bien frente al desarollo, procesos de planeación participativa en Medellín
par: María Luisa Eschenhagen
Publié: (2012)
par: María Luisa Eschenhagen
Publié: (2012)
Contexto y exigencias a las ciencias sociales, para afrontar los problemas ambientales
par: María Luisa Eschenhagen
Publié: (2011)
par: María Luisa Eschenhagen
Publié: (2011)
Tres ejes de diálogo epistemológico para aproximarse a una interpretación de la relación ser humano-naturaleza
par: Maria Luisa Eschenhagen
Publié: (2017)
par: Maria Luisa Eschenhagen
Publié: (2017)
Los límites de la retórica verde o ¿Porqué después de más de 30 años de esfuerzos no se observan mejoras ambientales sustanciales?
par: María Luisa Eschenhagen
Publié: (2010)
par: María Luisa Eschenhagen
Publié: (2010)
Colonialidad del saber en la educación ambiental: la necesidad de diálogos de Saberes
par: María Luisa Eschenhagen
Publié: (2021)
par: María Luisa Eschenhagen
Publié: (2021)
Desafíos para pensar desde la vida en las ciencias sociales
par: María Luisa Eschenhagen
Publié: (2015)
par: María Luisa Eschenhagen
Publié: (2015)
Las cumbres ambientales internacionales y la educación ambiental
par: María Luisa Eschenhagen
Publié: (2007)
par: María Luisa Eschenhagen
Publié: (2007)
DIVERSAS CONSIDERACIONES Y APROXIMACIONES A LA NOCIÓN DE COMPLEJIDAD AMBIENTAL
par: María Luisa Eschenhagen
Publié: (2007)
par: María Luisa Eschenhagen
Publié: (2007)
Structured Inverse-Free Natural Gradient: Memory-Efficient & Numerically-Stable KFAC
par: Lin, Wu, et autres
Publié: (2023)
par: Lin, Wu, et autres
Publié: (2023)
VISLA Benchmark: Evaluating Embedding Sensitivity to Semantic and Lexical Alterations
par: Dumpala, Sri Harsha, et autres
Publié: (2024)
par: Dumpala, Sri Harsha, et autres
Publié: (2024)
SUGARCREPE++ Dataset: Vision-Language Model Sensitivity to Semantic and Lexical Alterations
par: Dumpala, Sri Harsha, et autres
Publié: (2024)
par: Dumpala, Sri Harsha, et autres
Publié: (2024)
Documents similaires
-
Training neural networks faster with minimal tuning using pre-computed lists of hyperparameters for NAdamW
par: Medapati, Sourabh, et autres
Publié: (2025) -
Benchmarking Neural Network Training Algorithms
par: Dahl, George E., et autres
Publié: (2023) -
How far away are truly hyperparameter-free learning algorithms?
par: Kasimbeg, Priya, et autres
Publié: (2025) -
Influence Functions for Scalable Data Attribution in Diffusion Models
par: Mlodozeniec, Bruno, et autres
Publié: (2024) -
Kronecker-Factored Approximate Curvature for Modern Neural Network Architectures
par: Eschenhagen, Runa, et autres
Publié: (2023)