Llamas on the Web: Memory-Efficient, Performance-Portable, and Multi-Precision LLM Inference with WebGPU

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Levine, Reese, Sharma, Rithik, Jain, Nikhil, Ramesh, Abhijit, Chen, Zheyuan, Abbas, Neha, Contini, James, Sorensen, Tyler
Format:	Preprint
Veröffentlicht:	2026
Schlagworte:	Distributed, Parallel, and Cluster Computing Artificial Intelligence Machine Learning
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Online

https://arxiv.org/abs/2605.20706