Mesh-Attention: A New Communication-Efficient Distributed Attention with Improved Data Locality

Fuente: arXiv
Gespeichert in:
Bibliographische Detailangaben
Hauptverfasser: Chen, Sirui, Chen, Jingji, Zhu, Siqi, Jiang, Ziheng, Peng, Yanghua, Qian, Xuehai
Format: Preprint
Veröffentlicht: 2025
Schlagworte:
Online-Zugang:
Tags: Tag hinzufügen
Keine Tags, Fügen Sie den ersten Tag hinzu!