WATOS: Efficient LLM Training Strategies and Architecture Co-exploration for Wafer-scale Chip
Fuente:
arXiv
Enregistré dans:
| Auteurs principaux: | Wang, Huizheng, Wang, Zichuan, Wang, Hongbin, Hou, Jingxiang, Wei, Taiquan, Li, Chao, Hu, Yang, Yin, Shouyi |
|---|---|
| Format: | Preprint |
| Publié: |
2025
|
| Sujets: | |
| Accès en ligne: | |
| Tags: |
Ajouter un tag
Pas de tags, Soyez le premier à ajouter un tag!
|
Documents similaires
Designing Spatial Architectures for Sparse Attention: STAR Accelerator via Cross-Stage Tiling
par: Wang, Huizheng, et autres
Publié: (2025)
par: Wang, Huizheng, et autres
Publié: (2025)
BitStopper: An Efficient Transformer Attention Accelerator via Stage-fusion and Early Termination
par: Wang, Huizheng, et autres
Publié: (2025)
par: Wang, Huizheng, et autres
Publié: (2025)
PADE: A Predictor-Free Sparse Attention Accelerator via Unified Execution and Stage Fusion
par: Wang, Huizheng, et autres
Publié: (2025)
par: Wang, Huizheng, et autres
Publié: (2025)
TEMP: A Memory Efficient Physical-aware Tensor Partition-Mapping Framework on Wafer-scale Chips
par: Wang, Huizheng, et autres
Publié: (2025)
par: Wang, Huizheng, et autres
Publié: (2025)
MoEntwine: Unleashing the Potential of Wafer-scale Chips for Large-scale Expert Parallel Inference
par: Tang, Xinru, et autres
Publié: (2025)
par: Tang, Xinru, et autres
Publié: (2025)
MCBP: A Memory-Compute Efficient LLM Inference Accelerator Leveraging Bit-Slice-enabled Sparsity and Repetitiveness
par: Wang, Huizheng, et autres
Publié: (2025)
par: Wang, Huizheng, et autres
Publié: (2025)
Intelligent Reflection as a Service (IRaaS): System Architecture, Enabling Technologies, and Deployment Strategy
par: Wang, Wei, et autres
Publié: (2026)
par: Wang, Wei, et autres
Publié: (2026)
Towards Spectrally Efficient and Physically Reconfigurable Architectures for Multibeam-Waveform Co-Design in Joint Communication and Sensing
par: Ebrahimi, Najme, et autres
Publié: (2025)
par: Ebrahimi, Najme, et autres
Publié: (2025)
IO Pad Integrity in Energy-Efficient Neuromorphic Chips
par: Ghani, Arfan
Publié: (2026)
par: Ghani, Arfan
Publié: (2026)
Efficient, Adaptive Near-Field Beam Training based on Linear Bandit
par: Liu, Junchi, et autres
Publié: (2026)
par: Liu, Junchi, et autres
Publié: (2026)
Digital Semantic Communications: An Alternating Multi-Phase Training Strategy with Mask Attack
par: Gong, Mingze, et autres
Publié: (2024)
par: Gong, Mingze, et autres
Publié: (2024)
Near/Far-Field Channel Estimation For Terahertz Systems With ELAAs: A Block-Sparse-Aware Approach
par: Wang, Hongwei, et autres
Publié: (2024)
par: Wang, Hongwei, et autres
Publié: (2024)
Integrated Channel Estimation and Sensing for Near-Field ELAA Systems
par: Wang, Jionghui, et autres
Publié: (2026)
par: Wang, Jionghui, et autres
Publié: (2026)
Intelligent Reflecting Surface-Assisted NLOS Sensing With OFDM Signals
par: Wang, Jilin, et autres
Publié: (2024)
par: Wang, Jilin, et autres
Publié: (2024)
Line Spectral Estimation with Unlimited Sensing
par: Wang, Hongwei, et autres
Publié: (2024)
par: Wang, Hongwei, et autres
Publié: (2024)
Deep Reinforcement Learning for Energy-Efficient on the Heterogeneous Computing Architecture
par: Yu, Zheqi, et autres
Publié: (2023)
par: Yu, Zheqi, et autres
Publié: (2023)
Adaptive High-Speed Radar Signal Processing Architecture for 3D Localization of Multiple Targets on System on Chip
par: Tewari, Aakanksha, et autres
Publié: (2026)
par: Tewari, Aakanksha, et autres
Publié: (2026)
WiDistill: Distilling Large-scale Wi-Fi Datasets with Trajectory Matching
par: Wang, Tiantian, et autres
Publié: (2024)
par: Wang, Tiantian, et autres
Publié: (2024)
Integrated Channel Sounding and Communication: Requirements, Architecture, Challenges, and Key Technologies
par: Zhou, Nanhao, et autres
Publié: (2026)
par: Zhou, Nanhao, et autres
Publié: (2026)
Design and Analysis of Chirp-Layered Superposition Coding for LoRa
par: Huang, Jingxiang, et autres
Publié: (2026)
par: Huang, Jingxiang, et autres
Publié: (2026)
SGD Jittering: A Training Strategy for Robust and Accurate Model-Based Architectures
par: Guan, Peimeng, et autres
Publié: (2024)
par: Guan, Peimeng, et autres
Publié: (2024)
CSI-Free Position Optimization for Movable Antenna Communication Systems: A Black-Box Optimization Approach
par: Zeng, Xianlong, et autres
Publié: (2024)
par: Zeng, Xianlong, et autres
Publié: (2024)
LAPA: Log-Domain Prediction-Driven Dynamic Sparsity Accelerator for Transformer Model
par: Wang, Huizheng, et autres
Publié: (2025)
par: Wang, Huizheng, et autres
Publié: (2025)
Dual optical frequency comb downconversion of D-band mm-wave signals
par: Deakin, Callum, et autres
Publié: (2025)
par: Deakin, Callum, et autres
Publié: (2025)
Flexible-Duplex Cell-Free Architecture for Secure Uplink Communications in Low-Altitude Wireless Networks
par: Shi, Wei, et autres
Publié: (2026)
par: Shi, Wei, et autres
Publié: (2026)
GP Bandit-Assisted Two-Stage Sparse Phase Retrieval for Amplitude-Only Near-Field Beam Training
par: Wang, Zijun, et autres
Publié: (2026)
par: Wang, Zijun, et autres
Publié: (2026)
CoMET: A Contrastive-Masked Brain Foundation Model for Universal EEG Representation
par: Li, Ang, et autres
Publié: (2025)
par: Li, Ang, et autres
Publié: (2025)
Compressive Beam-Pattern-Aware Near-field Beam Training via Total Variation Denoising
par: Wang, Zijun, et autres
Publié: (2026)
par: Wang, Zijun, et autres
Publié: (2026)
High-performance Power Allocation Strategies for Active IRS-aided Wireless Network
par: Zhao, Yifan, et autres
Publié: (2023)
par: Zhao, Yifan, et autres
Publié: (2023)
Time-Frequency Mode Decomposition: A Morphological Segmentation Framework for Signal Analysis and Its Application
par: Zhou, Wei, et autres
Publié: (2025)
par: Zhou, Wei, et autres
Publié: (2025)
Towards Native Intelligence: 6G-LLM Trained with Reinforcement Learning from NDT Feedback
par: Xiao, Zhuoran, et autres
Publié: (2026)
par: Xiao, Zhuoran, et autres
Publié: (2026)
A Self-scaled Approximate $\ell_0$ Regularization Robust Model for Outlier Detection
par: Song, Pengyang, et autres
Publié: (2025)
par: Song, Pengyang, et autres
Publié: (2025)
Compressive Near-Field Wideband Channel Estimation for THz Extremely Large-scale MIMO Systems
par: Wang, Jionghui, et autres
Publié: (2025)
par: Wang, Jionghui, et autres
Publié: (2025)
Digital Twin Channel for 6G: Concepts, Architectures and Potential Applications
par: Wang, Heng, et autres
Publié: (2024)
par: Wang, Heng, et autres
Publié: (2024)
DNN-based Enhanced DOA Sensing via Massive MIMO Receiver with Switches-based Hybrid Architecture
par: Li, Yifan, et autres
Publié: (2024)
par: Li, Yifan, et autres
Publié: (2024)
Hardware-Efficient and Reliable Coherent DSCM Systems Enabled by Single-Pilot-Tone-Based Polarization Demultiplexing
par: Wang, Wei, et autres
Publié: (2024)
par: Wang, Wei, et autres
Publié: (2024)
SIM-Assisted End-to-End Co-Frequency Co-Time Full-Duplex System
par: Zhang, Yida, et autres
Publié: (2025)
par: Zhang, Yida, et autres
Publié: (2025)
Thermal Analysis of 3D GPU-Memory Architectures with Boron Nitride Interposer
par: Wang, Eric Han, et autres
Publié: (2025)
par: Wang, Eric Han, et autres
Publié: (2025)
DeltaLLM: A Training-Free Framework Exploiting Temporal Sparsity for Efficient Edge LLM Inference
par: Qi, Jiawen, et autres
Publié: (2025)
par: Qi, Jiawen, et autres
Publié: (2025)
FOGNA: An effective Sum-Difference Co-Array Design Based on Fourth-Order Cumulants
par: Wang, Si, et autres
Publié: (2024)
par: Wang, Si, et autres
Publié: (2024)
Documents similaires
-
Designing Spatial Architectures for Sparse Attention: STAR Accelerator via Cross-Stage Tiling
par: Wang, Huizheng, et autres
Publié: (2025) -
BitStopper: An Efficient Transformer Attention Accelerator via Stage-fusion and Early Termination
par: Wang, Huizheng, et autres
Publié: (2025) -
PADE: A Predictor-Free Sparse Attention Accelerator via Unified Execution and Stage Fusion
par: Wang, Huizheng, et autres
Publié: (2025) -
TEMP: A Memory Efficient Physical-aware Tensor Partition-Mapping Framework on Wafer-scale Chips
par: Wang, Huizheng, et autres
Publié: (2025) -
MoEntwine: Unleashing the Potential of Wafer-scale Chips for Large-scale Expert Parallel Inference
par: Tang, Xinru, et autres
Publié: (2025)