Buchumschlag

Radial Networks: Dynamic Layer Routing for High-Performance Large Language Models

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Dotzel, Jordan, Akhauri, Yash, AbouElhamayed, Ahmed S., Jiang, Carly, Abdelfattah, Mohamed, Zhang, Zhiru
Format:	Preprint
Veröffentlicht:	2024
Schlagworte:	Computation and Language
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

ShadowLLM: Predictor-based Contextual Sparsity for Large Language Models
von: Akhauri, Yash, et al.
Veröffentlicht: (2024)

SplitReason: Learning To Offload Reasoning
von: Akhauri, Yash, et al.
Veröffentlicht: (2025)

TokenButler: Token Importance is Predictable
von: Akhauri, Yash, et al.
Veröffentlicht: (2025)

Compute Where it Counts: Self Optimizing Language Models
von: Akhauri, Yash, et al.
Veröffentlicht: (2026)

SparAMX: Accelerating Compressed LLMs Token Generation on AMX-powered CPUs
von: AbouElhamayed, Ahmed F., et al.
Veröffentlicht: (2025)

Beyond Inference: Performance Analysis of DNN Server Overheads for Computer Vision
von: AbouElhamayed, Ahmed F., et al.
Veröffentlicht: (2024)

Attamba: Attending To Multi-Token States
von: Akhauri, Yash, et al.
Veröffentlicht: (2024)

FlashDLM: Accelerating Diffusion Language Model Inference via Efficient KV Caching and Guided Diffusion
von: Hu, Zhanqiu, et al.
Veröffentlicht: (2025)

Exploring the Limits of Semantic Image Compression at Micro-bits per Pixel
von: Dotzel, Jordan, et al.
Veröffentlicht: (2024)

Semantic Compression of 3D Objects for Open and Collaborative Virtual Worlds
von: Dotzel, Jordan, et al.
Veröffentlicht: (2025)

Regression Language Models for Code
von: Akhauri, Yash, et al.
Veröffentlicht: (2025)

Encodings for Prediction-based Neural Architecture Search
von: Akhauri, Yash, et al.
Veröffentlicht: (2024)

On Latency Predictors for Neural Architecture Search
von: Akhauri, Yash, et al.
Veröffentlicht: (2024)

PQA: Exploring the Potential of Product Quantization in DNN Hardware Acceleration
von: AbouElhamayed, Ahmed F., et al.
Veröffentlicht: (2023)

BitMoD: Bit-serial Mixture-of-Datatype LLM Acceleration
von: Chen, Yuzong, et al.
Veröffentlicht: (2024)

Learning from Students: Applying t-Distributions to Explore Accurate and Efficient Formats for LLMs
von: Dotzel, Jordan, et al.
Veröffentlicht: (2024)

xKV: Cross-Layer KV-Cache Compression via Aligned Singular Vector Extraction
von: Chang, Chi-Chih, et al.
Veröffentlicht: (2025)

RadialRouter: Structured Representation for Efficient and Robust Large Language Models Routing
von: Jin, Ruihan, et al.
Veröffentlicht: (2025)

A Usage-Aware Sequent Calculus for Differential Dynamic Logic
von: Dotzel, Myra, et al.
Veröffentlicht: (2023)

NITRO: LLM Inference on Intel Laptop NPUs
von: Fei, Anthony, et al.
Veröffentlicht: (2024)

Dr.LLM: Dynamic Layer Routing in LLMs
von: Heakl, Ahmed, et al.
Veröffentlicht: (2025)

Auditable Early Stopping for Agentic Routing: Ledger-Verified Run-Wise Certificates under Local DP
von: Akhauri, Shivam
Veröffentlicht: (2025)

Lookahead Routing for Large Language Models
von: Huang, Canbin, et al.
Veröffentlicht: (2025)

An Analysis of Embedding Layers and Similarity Scores using Siamese Neural Networks
von: Bingi, Yash, et al.
Veröffentlicht: (2023)

Performance Prediction for Large Systems via Text-to-Text Regression
von: Akhauri, Yash, et al.
Veröffentlicht: (2025)

A Multi-Layered Large Language Model Framework for Disease Prediction
von: Mohamed, Malak, et al.
Veröffentlicht: (2025)

From Pragmas to Partners: A Symbiotic Evolution of Agentic High-Level Synthesis
von: Zhang, Niansong, et al.
Veröffentlicht: (2026)

ResumeAtlas: Revisiting Resume Classification with Large-Scale Datasets and Large Language Models
von: Heakl, Ahmed, et al.
Veröffentlicht: (2024)

Understanding the Potential of FPGA-Based Spatial Acceleration for Large Language Model Inference
von: Chen, Hongzheng, et al.
Veröffentlicht: (2023)

ARS: Automatic Routing Solver with Large Language Models
von: Li, Kai, et al.
Veröffentlicht: (2025)

Evaluating Consistency and Reasoning Capabilities of Large Language Models
von: Saxena, Yash, et al.
Veröffentlicht: (2024)

MixLLM: Dynamic Routing in Mixed Large Language Models
von: Wang, Xinyuan, et al.
Veröffentlicht: (2025)

Benchmarking Large Language Models on Answering and Explaining Challenging Medical Questions
von: Chen, Hanjie, et al.
Veröffentlicht: (2024)

Investigating Layer Importance in Large Language Models
von: Zhang, Yang, et al.
Veröffentlicht: (2024)

Persuasion Games using Large Language Models
von: Ramani, Ganesh Prasath, et al.
Veröffentlicht: (2024)

Performance Evaluation of Large Language Models in Bangla Consumer Health Query Summarization
von: Abrar, Ajwad, et al.
Veröffentlicht: (2025)

Evaluating Large Language Models for Material Selection
von: Grandi, Daniele, et al.
Veröffentlicht: (2024)

Graph-Convolutional Networks: Named Entity Recognition and Large Language Model Embedding in Document Clustering
von: Keraghel, Imed, et al.
Veröffentlicht: (2024)

An Ensemble Classification Approach in A Multi-Layered Large Language Model Framework for Disease Prediction
von: Hamdi, Ali, et al.
Veröffentlicht: (2025)

SynapseRoute: An Auto-Route Switching Framework on Dual-State Large Language Model
von: Zhang, Wencheng, et al.
Veröffentlicht: (2025)