Enregistré dans:
| Auteurs principaux: | Fan, Haozheng, Zhou, Hao, Huang, Guangtai, Raman, Parameswaran, Fu, Xinwei, Gupta, Gaurav, Ram, Dhananjay, Wang, Yida, Huan, Jun |
|---|---|
| Format: | Preprint |
| Publié: |
2024
|
| Sujets: | |
| Accès en ligne: | https://arxiv.org/abs/2404.10630 |
| Tags: |
Ajouter un tag
Pas de tags, Soyez le premier à ajouter un tag!
|
Documents similaires
NeuronMLP: Efficient LLM Inference via Singular Value Decomposition Compression and Tiling on AWS Trainium
par: Song, Dinghong, et autres
Publié: (2025)
par: Song, Dinghong, et autres
Publié: (2025)
NinjaLLM: Fast, Scalable and Cost-effective RAG using Amazon SageMaker and AWS Trainium and Inferentia2
par: Xue, Tengfei, et autres
Publié: (2024)
par: Xue, Tengfei, et autres
Publié: (2024)
Variance-reduced Zeroth-Order Methods for Fine-Tuning Language Models
par: Gautam, Tanmay, et autres
Publié: (2024)
par: Gautam, Tanmay, et autres
Publié: (2024)
CoderEval: A Benchmark of Pragmatic Code Generation with Generative Pre-trained Models
par: Yu, Hao, et autres
Publié: (2023)
par: Yu, Hao, et autres
Publié: (2023)
Pre-trained Large Language Models Use Fourier Features to Compute Addition
par: Zhou, Tianyi, et autres
Publié: (2024)
par: Zhou, Tianyi, et autres
Publié: (2024)
Adaptive Batch Sizes Using Non-Euclidean Gradient Noise Scales for Stochastic Sign and Spectral Descent
par: Naganuma, Hiroki, et autres
Publié: (2026)
par: Naganuma, Hiroki, et autres
Publié: (2026)
CRAFT: Fine-Grained Cost-Aware Expert Replication For Efficient Mixture-of-Experts Serving
par: Zhao, Adrian, et autres
Publié: (2026)
par: Zhao, Adrian, et autres
Publié: (2026)
Smoothing DiLoCo with Primal Averaging for Faster Training of LLMs
par: Defazio, Aaron, et autres
Publié: (2025)
par: Defazio, Aaron, et autres
Publié: (2025)
Model Merging in Pre-training of Large Language Models
par: Li, Yunshui, et autres
Publié: (2025)
par: Li, Yunshui, et autres
Publié: (2025)
Sequence-level Large Language Model Training with Contrastive Preference Optimization
par: Feng, Zhili, et autres
Publié: (2025)
par: Feng, Zhili, et autres
Publié: (2025)
Utilizing Pre-trained and Large Language Models for 10-K Items Segmentation
par: Lu, Hsin-Min, et autres
Publié: (2025)
par: Lu, Hsin-Min, et autres
Publié: (2025)
Distributed Specialization: Rare-Token Neurons in Large Language Models
par: Liu, Jing, et autres
Publié: (2025)
par: Liu, Jing, et autres
Publié: (2025)
Spike No More: Stabilizing the Pre-training of Large Language Models
par: Takase, Sho, et autres
Publié: (2023)
par: Takase, Sho, et autres
Publié: (2023)
STEP: Staged Parameter-Efficient Pre-training for Large Language Models
par: Yano, Kazuki, et autres
Publié: (2025)
par: Yano, Kazuki, et autres
Publié: (2025)
Simple and Scalable Strategies to Continually Pre-train Large Language Models
par: Ibrahim, Adam, et autres
Publié: (2024)
par: Ibrahim, Adam, et autres
Publié: (2024)
Learning to Focus: Focal Attention for Selective and Scalable Transformers
par: Ram, Dhananjay, et autres
Publié: (2025)
par: Ram, Dhananjay, et autres
Publié: (2025)
Adaptation of augmented reality technologies to the educational process of training graphic designers
par: Li, Yida
Publié: (2025)
par: Li, Yida
Publié: (2025)
Cross-layer Attention Sharing for Pre-trained Large Language Models
par: Mu, Yongyu, et autres
Publié: (2024)
par: Mu, Yongyu, et autres
Publié: (2024)
Pre-training Differentially Private Models with Limited Public Data
par: Bu, Zhiqi, et autres
Publié: (2024)
par: Bu, Zhiqi, et autres
Publié: (2024)
PipeFill: Using GPUs During Bubbles in Pipeline-parallel LLM Training
par: Arfeen, Daiyaan, et autres
Publié: (2024)
par: Arfeen, Daiyaan, et autres
Publié: (2024)
MIA-Tuner: Adapting Large Language Models as Pre-training Text Detector
par: Fu, Wenjie, et autres
Publié: (2024)
par: Fu, Wenjie, et autres
Publié: (2024)
Towards Efficient Pre-training: Exploring FP4 Precision in Large Language Models
par: Zhou, Jiecheng, et autres
Publié: (2025)
par: Zhou, Jiecheng, et autres
Publié: (2025)
Towards Effective and Efficient Continual Pre-training of Large Language Models
par: Chen, Jie, et autres
Publié: (2024)
par: Chen, Jie, et autres
Publié: (2024)
Multivariate Wireless Link Quality Prediction Based on Pre-trained Large Language Models
par: Yan, Zhuangzhuang, et autres
Publié: (2025)
par: Yan, Zhuangzhuang, et autres
Publié: (2025)
Chain-of-Action: Faithful and Multimodal Question Answering through Large Language Models
par: Pan, Zhenyu, et autres
Publié: (2024)
par: Pan, Zhenyu, et autres
Publié: (2024)
PROMPTEVALS: A Dataset of Assertions and Guardrails for Custom Production Large Language Model Pipelines
par: Vir, Reya, et autres
Publié: (2025)
par: Vir, Reya, et autres
Publié: (2025)
Efficient Temporal Tokenization for Mobility Prediction with Large Language Models
par: He, Haoyu, et autres
Publié: (2025)
par: He, Haoyu, et autres
Publié: (2025)
Pre-training Distillation for Large Language Models: A Design Space Exploration
par: Peng, Hao, et autres
Publié: (2024)
par: Peng, Hao, et autres
Publié: (2024)
A General Framework for Load Forecasting based on Pre-trained Large Language Model
par: Gao, Mingyang, et autres
Publié: (2024)
par: Gao, Mingyang, et autres
Publié: (2024)
Machine Unlearning of Pre-trained Large Language Models
par: Yao, Jin, et autres
Publié: (2024)
par: Yao, Jin, et autres
Publié: (2024)
The Future of Large Language Model Pre-training is Federated
par: Sani, Lorenzo, et autres
Publié: (2024)
par: Sani, Lorenzo, et autres
Publié: (2024)
Non-Hermitian effect to the ballistic transport and quantized Hall conductivity in 2H-MoS$_{2}$
par: Wu, Chen-Huan, et autres
Publié: (2023)
par: Wu, Chen-Huan, et autres
Publié: (2023)
Bayesian Network Fusion of Large Language Models for Sentiment Analysis
par: Amirzadeh, Rasoul, et autres
Publié: (2025)
par: Amirzadeh, Rasoul, et autres
Publié: (2025)
Revisiting Large Language Model Pruning using Neuron Semantic Attribution
par: Ding, Yizhuo, et autres
Publié: (2025)
par: Ding, Yizhuo, et autres
Publié: (2025)
Unsupervised Domain Adaption Harnessing Vision-Language Pre-training
par: Zhou, Wenlve, et autres
Publié: (2024)
par: Zhou, Wenlve, et autres
Publié: (2024)
PEAC: Unsupervised Pre-training for Cross-Embodiment Reinforcement Learning
par: Ying, Chengyang, et autres
Publié: (2024)
par: Ying, Chengyang, et autres
Publié: (2024)
Topological Laser in Anomalous Quadrupole Topological Phases
par: Lu, Guangtai, et autres
Publié: (2024)
par: Lu, Guangtai, et autres
Publié: (2024)
Experience Sharing in Mutual Reinforcement Learning for Heterogeneous Language Models
par: Liu, Xiaoze, et autres
Publié: (2026)
par: Liu, Xiaoze, et autres
Publié: (2026)
Conv-CoA: Improving Open-domain Question Answering in Large Language Models via Conversational Chain-of-Action
par: Pan, Zhenyu, et autres
Publié: (2024)
par: Pan, Zhenyu, et autres
Publié: (2024)
Assessing the Performance of Chinese Open Source Large Language Models in Information Extraction Tasks
par: Cai, Yida, et autres
Publié: (2024)
par: Cai, Yida, et autres
Publié: (2024)
Documents similaires
-
NeuronMLP: Efficient LLM Inference via Singular Value Decomposition Compression and Tiling on AWS Trainium
par: Song, Dinghong, et autres
Publié: (2025) -
NinjaLLM: Fast, Scalable and Cost-effective RAG using Amazon SageMaker and AWS Trainium and Inferentia2
par: Xue, Tengfei, et autres
Publié: (2024) -
Variance-reduced Zeroth-Order Methods for Fine-Tuning Language Models
par: Gautam, Tanmay, et autres
Publié: (2024) -
CoderEval: A Benchmark of Pragmatic Code Generation with Generative Pre-trained Models
par: Yu, Hao, et autres
Publié: (2023) -
Pre-trained Large Language Models Use Fourier Features to Compute Addition
par: Zhou, Tianyi, et autres
Publié: (2024)