Buchumschlag

StagFormer: Time Staggering Transformer Decoding for RunningLayers In Parallel

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Cutler, Dylan, Kandoor, Arun, Dikkala, Nishanth, Saunshi, Nikunj, Wang, Xin, Panigrahy, Rina
Format:	Preprint
Veröffentlicht:	2025
Schlagworte:	Machine Learning Artificial Intelligence
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Reasoning with Latent Thoughts: On the Power of Looped Transformers
von: Saunshi, Nikunj, et al.
Veröffentlicht: (2025)

A Implies B: Circuit Analysis in LLMs for Propositional Logical Reasoning
von: Hong, Guan Zhe, et al.
Veröffentlicht: (2024)

Causal Language Modeling Can Elicit Search and Reasoning Capabilities on Logic Puzzles
von: Shah, Kulin, et al.
Veröffentlicht: (2024)

Can Looped Transformers Learn to Implement Multi-step Gradient Descent for In-context Learning?
von: Gatmiry, Khashayar, et al.
Veröffentlicht: (2024)

Limitations on Accurate, Trusted, Human-level Reasoning
von: Panigrahy, Rina, et al.
Veröffentlicht: (2025)

Patch-Level Tokenization with CNN Encoders and Attention for Improved Transformer Time-Series Forecasting
von: Nagrath, Saurish, et al.
Veröffentlicht: (2026)

On the Inductive Bias of Stacking Towards Improving Reasoning
von: Saunshi, Nikunj, et al.
Veröffentlicht: (2024)

Latent Concept Disentanglement in Transformer-based Language Models
von: Hong, Guan Zhe, et al.
Veröffentlicht: (2025)

ContiFormer: Continuous-Time Transformer for Irregular Time Series Modeling
von: Chen, Yuqi, et al.
Veröffentlicht: (2024)

ShapeFormer: Shapelet Transformer for Multivariate Time Series Classification
von: Le, Xuan-May, et al.
Veröffentlicht: (2024)

Stag-1: Towards Realistic 4D Driving Simulation with Video Generation Model
von: Wang, Lening, et al.
Veröffentlicht: (2024)

Accelerating Transformer Inference for Translation via Parallel Decoding
von: Santilli, Andrea, et al.
Veröffentlicht: (2023)

Energy per Successful Goal: Goal-Level Energy Accounting for Agentic AI Systems
von: Panigrahy, Deepak, et al.
Veröffentlicht: (2026)

ChronoFormer: Time-Aware Transformer Architectures for Structured Clinical Event Modeling
von: Zhang, Yuanyun, et al.
Veröffentlicht: (2025)

Revolutionizing Personalized Cancer Vaccines with NEO: Novel Epitope Optimization Using an Aggregated Feed Forward and Recurrent Neural Network with LSTM Architecture
von: Basava, Nishanth
Veröffentlicht: (2024)

Improving Variational Autoencoder using Random Fourier Transformation: An Aviation Safety Anomaly Detection Case-Study
von: Asanjan, Ata Akbari, et al.
Veröffentlicht: (2026)

NoiseFormer -- Noise Diffused Symmetric Attention Transformer
von: Kumar, Phani, et al.
Veröffentlicht: (2026)

GrokFormer: Graph Fourier Kolmogorov-Arnold Transformers
von: Ai, Guoguo, et al.
Veröffentlicht: (2024)

DMax: Aggressive Parallel Decoding for dLLMs
von: Chen, Zigeng, et al.
Veröffentlicht: (2026)

Whisfusion: Parallel ASR Decoding via a Diffusion Transformer
von: Kwon, Taeyoun, et al.
Veröffentlicht: (2025)

Enabling Realtime Reinforcement Learning at Scale with Staggered Asynchronous Inference
von: Riemer, Matthew, et al.
Veröffentlicht: (2024)

RingFormer: Rethinking Recurrent Transformer with Adaptive Level Signals
von: Heo, Jaemu, et al.
Veröffentlicht: (2025)

IsingFormer: Augmenting Parallel Tempering With Learned Proposals
von: Bunaiyan, Saleh, et al.
Veröffentlicht: (2025)

WeatherFormer: Empowering Global Numerical Weather Forecasting with Space-Time Transformer
von: Gong, Junchao, et al.
Veröffentlicht: (2024)

Model-Based Reinforcement Learning Under Confounding
von: Venkatesh, Nishanth, et al.
Veröffentlicht: (2025)

ElastiFormer: Learned Redundancy Reduction in Transformer via Self-Distillation
von: Liu, Junzhang, et al.
Veröffentlicht: (2024)

KuaiFormer: Transformer-Based Retrieval at Kuaishou
von: Liu, Chi, et al.
Veröffentlicht: (2024)

Advances in Transformers for Robotic Applications: A Review
von: Sanghai, Nikunj, et al.
Veröffentlicht: (2024)

MineDraft: A Framework for Batch Parallel Speculative Decoding
von: Tang, Zhenwei, et al.
Veröffentlicht: (2026)

VecFormer: Towards Efficient and Generalizable Graph Transformer with Graph Token Attention
von: Zhou, Jingbo, et al.
Veröffentlicht: (2026)

HGTS-Former: Hierarchical HyperGraph Transformer for Multivariate Time Series Analysis
von: Si, Hao, et al.
Veröffentlicht: (2025)

AlgoFormer: An Efficient Transformer Framework with Algorithmic Structures
von: Gao, Yihang, et al.
Veröffentlicht: (2024)

YuriiFormer: A Suite of Nesterov-Accelerated Transformers
von: Zimin, Aleksandr, et al.
Veröffentlicht: (2026)

From Bits to Rounds: Parallel Decoding with Exploration for Diffusion Language Models
von: Fu, Hengyu, et al.
Veröffentlicht: (2025)

Bifurcated Attention: Accelerating Massively Parallel Decoding with Shared Prefixes in LLMs
von: Athiwaratkun, Ben, et al.
Veröffentlicht: (2024)

Exploring and Improving Drafts in Blockwise Parallel Decoding
von: Kim, Taehyeon, et al.
Veröffentlicht: (2024)

RouteFormer: A Transformer-Based Routing Framework for Autonomous Vehicles
von: Youssef, Yazan, et al.
Veröffentlicht: (2025)

Learning to Keep a Promise: Scaling Language Model Decoding Parallelism with Learned Asynchronous Decoding
von: Jin, Tian, et al.
Veröffentlicht: (2025)

Scalable Multi-Domain Adaptation of Language Models using Modular Experts
von: Schafhalter, Peter, et al.
Veröffentlicht: (2024)

PhaseFormer: From Patches to Phases for Efficient and Effective Time Series Forecasting
von: Niu, Yiming, et al.
Veröffentlicht: (2025)