ELAS: Efficient Pre-Training of Low-Rank Large Language Models via 2:4 Activation Sparsity

Ähnliche Einträge

• LOST: Low-rank and Sparse Pre-training for Large Language Models
  von: Li, Jiaxi, et al.
  Veröffentlicht: (2025)
• OWLed: Outlier-weighed Layerwise Pruning for Efficient Autonomous Driving Framework
  von: Li, Jiaxi, et al.
  Veröffentlicht: (2024)
• ActTail: Global Activation Sparsity in Large Language Models
  von: Hou, Wenwen, et al.
  Veröffentlicht: (2026)
• CoLA: Compute-Efficient Pre-Training of LLMs via Low-Rank Activation
  von: Liu, Ziyue, et al.
  Veröffentlicht: (2025)
• R-Sparse: Rank-Aware Activation Sparsity for Efficient LLM Inference
  von: Zhang, Zhenyu, et al.
  Veröffentlicht: (2025)