SageAttention3: Microscaling FP4 Attention for Inference and An Exploration of 8-Bit Training

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Zhang, Jintao, Wei, Jia, Zhang, Pengle, Xu, Xiaoming, Huang, Haofeng, Wang, Haoxu, Jiang, Kai, Chen, Jianfei, Zhu, Jun
Format:	Preprint
Veröffentlicht:	2025
Schlagworte:	Machine Learning Artificial Intelligence Hardware Architecture Computer Vision and Pattern Recognition Performance
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Online

https://arxiv.org/abs/2505.11594