Buchumschlag

RedCoast: A Lightweight Tool to Automate Distributed Training of LLMs on Any GPU/TPUs

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Tan, Bowen, Zhu, Yun, Liu, Lijuan, Wang, Hongyi, Zhuang, Yonghao, Chen, Jindong, Xing, Eric, Hu, Zhiting
Format:	Preprint
Veröffentlicht:	2023
Schlagworte:	Machine Learning
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Synthesizing Privacy-Preserving Text Data via Finetuning without Finetuning Billion-Scale LLMs
von: Tan, Bowen, et al.
Veröffentlicht: (2025)

Benchmarking Quantum Red TEA on CPUs, GPUs, and TPUs
von: Jaschke, Daniel, et al.
Veröffentlicht: (2024)

Toward Inference-optimal Mixture-of-Expert Large Language Models
von: Yun, Longfei, et al.
Veröffentlicht: (2024)

RLAX: Large-Scale, Distributed Reinforcement Learning for Large Language Models on TPUs
von: Zhou, Runlong, et al.
Veröffentlicht: (2025)

Critiques of World Models
von: Xing, Eric, et al.
Veröffentlicht: (2025)

General Agentic Planning Through Simulative Reasoning with World Models
von: Deng, Mingkai, et al.
Veröffentlicht: (2025)

Leveraging Compute-in-Memory for Efficient Generative Model Inference in TPUs
von: Zhu, Zhantong, et al.
Veröffentlicht: (2025)

The Host Galaxy (If Any) of the Little Red Dots
von: Chen, Chang-Hao, et al.
Veröffentlicht: (2024)

BiasAlert: A Plug-and-play Tool for Social Bias Detection in LLMs
von: Fan, Zhiting, et al.
Veröffentlicht: (2024)

ToolkenGPT: Augmenting Frozen Language Models with Massive Tools via Tool Embeddings
von: Hao, Shibo, et al.
Veröffentlicht: (2023)

Efficient Long-context Language Model Training by Core Attention Disaggregation
von: Zhuang, Yonghao, et al.
Veröffentlicht: (2025)

Architectural Limits of Cloud TPUs in Finite-Field Cryptography
von: Dang, Hung, et al.
Veröffentlicht: (2026)

AGILE: Lightweight and Efficient Asynchronous GPU-SSD Integration
von: Yang, Zhuoping, et al.
Veröffentlicht: (2025)

Ep. 758: AI Surveillance: Mastering Frigate, YOLO, and TPUs
von: Rosehill, Daniel, et al.
Veröffentlicht: (2026)

Adapting AlphaEvolve to Optimize Fully Homomorphic Encryption on TPUs
von: Gorantala, Shruthi, et al.
Veröffentlicht: (2026)

SCALE-Sim TPU: Validating and Extending SCALE-Sim for TPUs
von: Dang, Jingtian, et al.
Veröffentlicht: (2026)

Response to Promises and Pitfalls of Deep Kernel Learning
von: Wilson, Andrew Gordon, et al.
Veröffentlicht: (2025)

Fully Bio‐Based TPUs From PLA/PTMC: Tunable Strength and Degradation Profiles
von: Qingshan Zhao, et al.
Veröffentlicht: (2025)

Collaborative Processing for Multi-Tenant Inference on Memory-Constrained Edge TPUs
von: Ng, Nathan, et al.
Veröffentlicht: (2026)

SlimPajama-DC: Understanding Data Combinations for LLM Training
von: Shen, Zhiqiang, et al.
Veröffentlicht: (2023)

Enhancing Perception Capabilities of Multimodal LLMs with Training-Free Fusion
von: Chen, Zhuokun, et al.
Veröffentlicht: (2024)

AnyPos: Automated Task-Agnostic Actions for Bimanual Manipulation
von: Tan, Hengkai, et al.
Veröffentlicht: (2025)

Poplar: Efficient Scaling of Distributed DNN Training on Heterogeneous GPU Clusters
von: Zhang, WenZheng, et al.
Veröffentlicht: (2024)

TTrace: Lightweight Error Checking and Diagnosis for Distributed Training
von: Jiang, Haitian, et al.
Veröffentlicht: (2025)

FairMT-Bench: Benchmarking Fairness for Multi-turn Dialogue in Conversational LLMs
von: Fan, Zhiting, et al.
Veröffentlicht: (2024)

Juvenile Species in Beach Seine Bycatch Along the Coast of Ghana: Any Implications for Fisheries?
von: Margaret Fafa Awushie Akwetey, et al.
Veröffentlicht: (2025)

Emergence of Superposition: Unveiling the Training Dynamics of Chain of Continuous Thought
von: Zhu, Hanlin, et al.
Veröffentlicht: (2025)

DISTFLASHATTN: Distributed Memory-efficient Attention for Long-context LLMs Training
von: Li, Dacheng, et al.
Veröffentlicht: (2023)

HARP: Orchestrating Automated Parallel Training on Heterogeneous GPU Clusters
von: Liang, Antian, et al.
Veröffentlicht: (2025)

RedCoder: Automated Multi-Turn Red Teaming for Code LLMs
von: Mo, Wenjie Jacky, et al.
Veröffentlicht: (2025)

EvoRL: A GPU-accelerated Framework for Evolutionary Reinforcement Learning
von: Zheng, Bowen, et al.
Veröffentlicht: (2025)

BiasGuard: A Reasoning-enhanced Bias Detection Tool For Large Language Models
von: Fan, Zhiting, et al.
Veröffentlicht: (2025)

Research on a Camera Position Measurement Method based on a Parallel Perspective Error Transfer Model
von: Hu, Ning, et al.
Veröffentlicht: (2026)

Lightweight Model Editing for LLMs to Correct Deprecated API Recommendations
von: Lin, Guancheng, et al.
Veröffentlicht: (2025)

Cornfigurator: Automated Planning for Any-to-Any Multimodal Model Serving
von: Ma, Jeff J., et al.
Veröffentlicht: (2025)

CuPyMag: GPU-Accelerated Finite-Element Micromagnetics with Magnetostriction
von: Guan, Hongyi, et al.
Veröffentlicht: (2025)

SpecInF: Exploiting Idle GPU Resources in Distributed DL Training via Speculative Inference Filling
von: Lv, Cunchi, et al.
Veröffentlicht: (2025)

Fusion-Eval: Integrating Assistant Evaluators with LLMs
von: Shu, Lei, et al.
Veröffentlicht: (2023)

scPilot: Large Language Model Reasoning Toward Automated Single-Cell Analysis and Discovery
von: Gao, Yiming, et al.
Veröffentlicht: (2026)

Dynamic Rewarding with Prompt Optimization Enables Tuning-free Self-Alignment of Language Models
von: Singla, Somanshu, et al.
Veröffentlicht: (2024)