Copertina

An Engineering Journey Training Large Language Models at Scale on Alps: The Apertus Experience

Fuente: arXiv

Salvato in:

Dettagli Bibliografici
Autori principali:	Coles, Jonathan, Schuppli, Stefano, Drescher, Lukas, Mohamed, Fawzi Roberto, Palme, Elia, Mendonça, Henrique, Gila, Miguel, Klein, Mark, Martinasso, Maxime, VandeVondele, Joost, Hoefler, Torsten, Schulthess, Thomas, Romero, Josh, Gorodetsky, Igor, Hankins, Ryan, Wazirzada, Isa, Jaggi, Martin, Bosselut, Antoine, Schlag, Imanol, Llaquet, Antoni-Joan Solergibert i, Cano, Alejandro Hernández, Manitaras, Theofilos Ioannis, Browning, Nicholas John
Natura:	Preprint
Pubblicazione:	2026
Soggetti:	Distributed, Parallel, and Cluster Computing
Accesso online:	Acceder al recurso
Tags:	Aggiungi Tag Nessun Tag, puoi essere il primo ad aggiungerne!!

Documenti analoghi

Evolving HPC services to enable ML workloads on HPE Cray EX
di: Schuppli, Stefano, et al.
Pubblicazione: (2025)

Positional Fragility in LLMs: How Offset Effects Reshape Our Understanding of Memorization Risks
di: Xu, Yixuan, et al.
Pubblicazione: (2025)

Beyond Pre-Training: The Full Lifecycle of Foundation Models on HPC Systems
di: Conciatore, Dino, et al.
Pubblicazione: (2026)

Apertus: Democratizing Open and Compliant LLMs for Global Language Environments
di: Apertus, Project, et al.
Pubblicazione: (2025)

Apertus LLM Family Expansion via Distillation and Quantization
di: Panferov, Andrei, et al.
Pubblicazione: (2026)

Can Performant LLMs Be Ethical? Quantifying the Impact of Web Crawling Opt-Outs
di: Fan, Dongyang, et al.
Pubblicazione: (2025)

Towards Fully FP8 GEMM LLM Training at Scale
di: Hernández-Cano, Alejandro, et al.
Pubblicazione: (2025)

Alps, a versatile research infrastructure
di: Martinasso, Maxime, et al.
Pubblicazione: (2025)

SFT-then-RL Outperforms Mixed-Policy Methods for LLM Reasoning
di: Limozin, Alexis, et al.
Pubblicazione: (2026)

Deriving Activation Functions Using Integration
di: Huang, Allen Hao, et al.
Pubblicazione: (2024)

IDSIA/recurrent-fwp: v1.0.0 - Public Code Release
di: Kazuki Irie, et al.
Pubblicazione: (2025)

Benchmarking Concept-Spilling Across Languages in LLMs
di: Badanin, Ilia, et al.
Pubblicazione: (2026)

Die bevölkerungsnahe Polizei(-arbeit) und ihre Grenzen
di: Schuppli, Roman
Pubblicazione: (2025)

POLAR-Bench: A Diagnostic Benchmark for Privacy-Utility Trade-offs in LLM Agents
di: Zheng, Qiaoyuan, et al.
Pubblicazione: (2026)

On the Effect of (Near) Duplicate Subwords in Language Modelling
di: Schäfer, Anton, et al.
Pubblicazione: (2024)

Navigating Scaling Laws: Compute Optimality in Adaptive Model Training
di: Anagnostidis, Sotiris, et al.
Pubblicazione: (2023)

The Role of Language Imbalance in Cross-lingual Generalisation: Insights from Cloned Language Experiments
di: Schäfer, Anton, et al.
Pubblicazione: (2024)

Understanding and Minimising Outlier Features in Neural Network Training
di: He, Bobby, et al.
Pubblicazione: (2024)

Profesión de democracia : discursos políticos / de Olof Palme. ; selección y traducción Francisco J. Uriz con apéndice, Suecia y tercer mundo por Pierre Schori
di: Palme, Olof
Pubblicazione: (2018)

L'«ermeneutica della riforma nella continuità» A proposito dei libri di Ernst-Wolfgang Böckenförde, Martin Rhonheimer e Rudolf Uertz: tre tentativi di trovare un posto alla fede nella modernità
di: Martin Schlag
Pubblicazione: (2010)

Understanding Data Movement in Tightly Coupled Heterogeneous Systems: A Case Study with the Grace Hopper Superchip
di: Fusco, Luigi, et al.
Pubblicazione: (2024)

Towards Specialized Supercomputers for Climate Sciences: Computational Requirements of the Icosahedral Nonhydrostatic Weather and Climate Model
di: Hoefler, Torsten, et al.
Pubblicazione: (2024)

Excess Mortality Data Analysis of COVID-19 Infections and Fatalities in Ecuador
di: Theofilos Toulkeridis
Pubblicazione: (2022)

Cambio Climático según los académicos ecuatorianos - Percepciones versus hechos
di: Theofilos Toulkeridis
Pubblicazione: (2020)

From LUXE to Future Colliders: Probing Strong-Field QED and Beyond
di: Schulthess, Ivo
Pubblicazione: (2026)

Les manuscrits arabes des lettres de Paul
di: Schulthess, Sara
Pubblicazione: (2020)

Aural History
di: Ashtor, Gila
Pubblicazione: (2020)

Girls Leaving Care: Establishing Relational Agency Through Relational Responsiveness in Out‐of‐Home Placements and Aftercare
di: Gila Amitay
Pubblicazione: (2025)

Proof and Proving in Mathematics Education The 19th ICMI Study
di: Gila Hanna

La mujer actual en los medios: estereotipos cinematográficos
di: Juana Gila
Pubblicazione: (1999)

Analysis of the Interdisciplinary Nature of Library and Information Science
di: Prebor, Gila
Pubblicazione: (2010)

The variance of integers without small prime factors in short intervals
di: Gorodetsky, Ofir
Pubblicazione: (2021)

Sums of two squares are strongly biased towards quadratic residues
di: Gorodetsky, Ofir
Pubblicazione: (2021)

Smooth integers and de Bruijn's approximation $Λ$
di: Gorodetsky, Ofir
Pubblicazione: (2022)

High and odd moments in the Erdős--Kac theorem
di: Gorodetsky, Ofir
Pubblicazione: (2024)

A polynomial analogue of Landau's theorem and related problems
di: Gorodetsky, Ofir
Pubblicazione: (2016)

New representations for all sporadic Apéry-like sequences, with applications to congruences
di: Gorodetsky, Ofir
Pubblicazione: (2021)

Smooth integers and the Dickman $ρ$ function
di: Gorodetsky, Ofir
Pubblicazione: (2022)

Magic squares, the symmetric group and Möbius randomness
di: Gorodetsky, Ofir
Pubblicazione: (2021)

Smooth permutations and polynomials revisited
di: Gorodetsky, Ofir
Pubblicazione: (2022)