Exploiting Sparsity for Long Context Inference: Million Token Contexts on Commodity GPUs

Fuente: arXiv
Salvato in:
Dettagli Bibliografici
Autori principali: Synk, Ryan, Hoover, Monte, Kirchenbauer, John, Jain, Neel, Stein, Alex, Shu, Manli, Sanchez, Josue Melendez, Duraiswami, Ramani, Goldstein, Tom
Natura: Preprint
Pubblicazione: 2025
Soggetti:
Accesso online:
Tags: Aggiungi Tag
Nessun Tag, puoi essere il primo ad aggiungerne!!