Enregistré dans:
| Auteurs principaux: | Madhyastha, Meghana, Haziza, Daniel, Cai, Jesse, Ardalani, Newsha, Bu, Zhiqi, Wu, Carole-Jean |
|---|---|
| Format: | Preprint |
| Publié: |
2026
|
| Sujets: | |
| Accès en ligne: | https://arxiv.org/abs/2602.06183 |
| Tags: |
Ajouter un tag
Pas de tags, Soyez le premier à ajouter un tag!
|
Documents similaires
Accelerating Transformer Inference and Training with 2:4 Activation Sparsity
par: Haziza, Daniel, et autres
Publié: (2025)
par: Haziza, Daniel, et autres
Publié: (2025)
Composer: A Search Framework for Hybrid Neural Architecture Design
par: Acun, Bilge, et autres
Publié: (2025)
par: Acun, Bilge, et autres
Publié: (2025)
Masked Matrix Multiplication for Emergent Sparsity
par: Wheatman, Brian, et autres
Publié: (2024)
par: Wheatman, Brian, et autres
Publié: (2024)
MAD Max Beyond Single-Node: Enabling Large Machine Learning Model Acceleration on Distributed Systems
par: Hsia, Samuel, et autres
Publié: (2023)
par: Hsia, Samuel, et autres
Publié: (2023)
Quagmires in SFT-RL Post-Training: When High SFT Scores Mislead and What to Use Instead
par: Kang, Feiyang, et autres
Publié: (2025)
par: Kang, Feiyang, et autres
Publié: (2025)
Demystifying Synthetic Data in LLM Pre-training: A Systematic Study of Scaling Laws, Benefits, and Pitfalls
par: Kang, Feiyang, et autres
Publié: (2025)
par: Kang, Feiyang, et autres
Publié: (2025)
CATransformers: Carbon Aware Transformers Through Joint Model-Hardware Optimization
par: Wang, Irene, et autres
Publié: (2025)
par: Wang, Irene, et autres
Publié: (2025)
Towards Decentralized and Sustainable Foundation Model Training with the Edge
par: Xue, Leyang, et autres
Publié: (2025)
par: Xue, Leyang, et autres
Publié: (2025)
Sieve: Multimodal Dataset Pruning Using Image Captioning Models
par: Mahmoud, Anas, et autres
Publié: (2023)
par: Mahmoud, Anas, et autres
Publié: (2023)
On Harnessing Idle Compute at the Edge for Foundation Model Training
par: Xue, Leyang, et autres
Publié: (2025)
par: Xue, Leyang, et autres
Publié: (2025)
Accelerating Transformer Pre-training with 2:4 Sparsity
par: Hu, Yuezhou, et autres
Publié: (2024)
par: Hu, Yuezhou, et autres
Publié: (2024)
Annotating the Pangenome Reveals the Diversity in the Genetic Basis for Metabolic Enzymes
par: Ardalani, Omid
Publié: (2025)
par: Ardalani, Omid
Publié: (2025)
Text Quality-Based Pruning for Efficient Training of Language Models
par: Sharma, Vasu, et autres
Publié: (2024)
par: Sharma, Vasu, et autres
Publié: (2024)
ELAS: Efficient Pre-Training of Low-Rank Large Language Models via 2:4 Activation Sparsity
par: Li, Jiaxi, et autres
Publié: (2026)
par: Li, Jiaxi, et autres
Publié: (2026)
Training-Free Activation Sparsity in Large Language Models
par: Liu, James, et autres
Publié: (2024)
par: Liu, James, et autres
Publié: (2024)
Case report of high origin of radial, ulnar, and profunda brachii arteries, its clinical implications and review of the literature
par: Sampath Madhyastha
Publié: (2009)
par: Sampath Madhyastha
Publié: (2009)
A Cognitively Grounded Bayesian Framework for Misinformation Susceptibility
par: Madhyastha, Pranava
Publié: (2026)
par: Madhyastha, Pranava
Publié: (2026)
Scaling depth capacity via zero/one-layer model expansion
par: Bu, Zhiqi
Publié: (2025)
par: Bu, Zhiqi
Publié: (2025)
Exploring the Benefit of Activation Sparsity in Pre-training
par: Zhang, Zhengyan, et autres
Publié: (2024)
par: Zhang, Zhengyan, et autres
Publié: (2024)
Improving Model Fusion by Training-time Neuron Alignment with Fixed Neuron Anchors
par: Li, Zexi, et autres
Publié: (2024)
par: Li, Zexi, et autres
Publié: (2024)
SparseInfer: Training-free Prediction of Activation Sparsity for Fast LLM Inference
par: Shin, Jiho, et autres
Publié: (2024)
par: Shin, Jiho, et autres
Publié: (2024)
Machine learning methods for finite population parameter estimation in survey sampling
par: Dagdoug, Mehdi, et autres
Publié: (2026)
par: Dagdoug, Mehdi, et autres
Publié: (2026)
Resting Neurons, Active Insights: Robustifying Activation Sparsity in LLMs via Spontaneity
par: Xu, Haotian, et autres
Publié: (2025)
par: Xu, Haotian, et autres
Publié: (2025)
Noise or Nuance: An Investigation Into Useful Information and Filtering For LLM Driven AKBC
par: Clay, Alex, et autres
Publié: (2025)
par: Clay, Alex, et autres
Publié: (2025)
Sparsity-Accelerated Training for Large Language Models
par: Ma, Da, et autres
Publié: (2024)
par: Ma, Da, et autres
Publié: (2024)
LLM-Assisted Visual Analytics: Opportunities and Challenges
par: Hutchinson, Maeve, et autres
Publié: (2024)
par: Hutchinson, Maeve, et autres
Publié: (2024)
Pre-training Differentially Private Models with Limited Public Data
par: Bu, Zhiqi, et autres
Publié: (2024)
par: Bu, Zhiqi, et autres
Publié: (2024)
Decomposing the Neurons: Activation Sparsity via Mixture of Experts for Continual Test Time Adaptation
par: Zhang, Rongyu, et autres
Publié: (2024)
par: Zhang, Rongyu, et autres
Publié: (2024)
Variable Selection for Linear Regression Imputation in Surveys
par: An, Ziming, et autres
Publié: (2026)
par: An, Ziming, et autres
Publié: (2026)
Joint Training Across Multiple Activation Sparsity Regimes
par: Wang, Haotian
Publié: (2026)
par: Wang, Haotian
Publié: (2026)
Post-Training Statistical Calibration for Higher Activation Sparsity
par: Chua, Vui Seng, et autres
Publié: (2024)
par: Chua, Vui Seng, et autres
Publié: (2024)
Working Memory Constraints Scaffold Learning in Transformers under Data Scarcity
par: Madhyastha, Pranava, et autres
Publié: (2026)
par: Madhyastha, Pranava, et autres
Publié: (2026)
Adaptive parameter-efficient fine-tuning via Hessian-informed subset selection
par: Xu, Shiyun, et autres
Publié: (2025)
par: Xu, Shiyun, et autres
Publié: (2025)
Gradient descent with generalized Newton's method
par: Bu, Zhiqi, et autres
Publié: (2024)
par: Bu, Zhiqi, et autres
Publié: (2024)
Towards hyperparameter-free optimization with differential privacy
par: Bu, Zhiqi, et autres
Publié: (2025)
par: Bu, Zhiqi, et autres
Publié: (2025)
Beyond Public Access in LLM Pre-Training Data
par: Rosenblat, Sruly, et autres
Publié: (2025)
par: Rosenblat, Sruly, et autres
Publié: (2025)
Towards Precise Detection of Personal Information Leaks in Mobile Health Apps
par: Ardalani, Alireza, et autres
Publié: (2024)
par: Ardalani, Alireza, et autres
Publié: (2024)
Wasserstein Distances, Neuronal Entanglement, and Sparsity
par: Sawmya, Shashata, et autres
Publié: (2024)
par: Sawmya, Shashata, et autres
Publié: (2024)
PowLU: An Activation Function for Stable Pre-Training of LLMs
par: Jiang, Peijie, et autres
Publié: (2026)
par: Jiang, Peijie, et autres
Publié: (2026)
Beyond Efficiency: Scaling AI Sustainably
par: Wu, Carole-Jean, et autres
Publié: (2024)
par: Wu, Carole-Jean, et autres
Publié: (2024)
Documents similaires
-
Accelerating Transformer Inference and Training with 2:4 Activation Sparsity
par: Haziza, Daniel, et autres
Publié: (2025) -
Composer: A Search Framework for Hybrid Neural Architecture Design
par: Acun, Bilge, et autres
Publié: (2025) -
Masked Matrix Multiplication for Emergent Sparsity
par: Wheatman, Brian, et autres
Publié: (2024) -
MAD Max Beyond Single-Node: Enabling Large Machine Learning Model Acceleration on Distributed Systems
par: Hsia, Samuel, et autres
Publié: (2023) -
Quagmires in SFT-RL Post-Training: When High SFT Scores Mislead and What to Use Instead
par: Kang, Feiyang, et autres
Publié: (2025)