Buchumschlag

Low Latency Transformer Inference on FPGAs for Physics Applications with hls4ml

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Jiang, Zhixing, Yin, Dennis, Chen, Yihui, Khoda, Elham E, Hauck, Scott, Hsu, Shih-Chieh, Govorkova, Ekaterina, Harris, Philip, Loncar, Vladimir, Moreno, Eric A.
Format:	Preprint
Veröffentlicht:	2024
Schlagworte:	Machine Learning
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Ultra Fast Transformers on FPGAs for Particle Physics Experiments
von: Jiang, Zhixing, et al.
Veröffentlicht: (2024)

Enabling Low-Latency Machine learning on Radiation-Hard FPGAs with hls4ml
von: Govorkova, Katya, et al.
Veröffentlicht: (2026)

wa-hls4ml: A Benchmark and Surrogate Models for hls4ml Resource and Latency Estimation
von: Hawks, Benjamin, et al.
Veröffentlicht: (2025)

hls4ml: A Flexible, Open-Source Platform for Deep Learning Acceleration on Reconfigurable Hardware
von: Schulte, Jan-Frederik, et al.
Veröffentlicht: (2025)

Symbolic Regression on FPGAs for Fast Machine Learning Inference
von: Tsoi, Ho Fung, et al.
Veröffentlicht: (2023)

da4ml: Distributed Arithmetic for Real-time Neural Networks on FPGAs
von: Sun, Chang, et al.
Veröffentlicht: (2025)

SparsePixels: Efficient Convolution for Sparse Data on FPGAs
von: Tsoi, Ho Fung, et al.
Veröffentlicht: (2025)

FPGA Deployment of LFADS for Real-time Neuroscience Experiments
von: Liu, Xiaohan, et al.
Veröffentlicht: (2024)

End-to-end workflow for machine learning-based qubit readout with QICK and hls4ml
von: Di Guglielmo, Giuseppe, et al.
Veröffentlicht: (2025)

Machine learning evaluation in the Global Event Processor FPGA for the ATLAS trigger upgrade
von: Jiang, Zhixing, et al.
Veröffentlicht: (2024)

A Modular AIoT Framework for Low-Latency Real-Time Robotic Teleoperation in Smart Cities
von: Sun, Shih-Chieh, et al.
Veröffentlicht: (2025)

Graph Neural Network-based Tracking as a Service
von: Zhao, Haoran, et al.
Veröffentlicht: (2024)

Towards Tensor Network Models for Low-Latency Jet Tagging on FPGAs
von: Coppi, Alberto, et al.
Veröffentlicht: (2026)

SymbolNet: Neural Symbolic Regression with Adaptive Dynamic Pruning for Compression
von: Tsoi, Ho Fung, et al.
Veröffentlicht: (2024)

HGQ: High Granularity Quantization for Real-time Neural Networks on FPGAs
von: Sun, Chang, et al.
Veröffentlicht: (2024)

LL-GNN: Low Latency Graph Neural Networks on FPGAs for High Energy Physics
von: Que, Zhiqiang, et al.
Veröffentlicht: (2022)

SuperSONIC: Cloud-Native Infrastructure for ML Inferencing
von: Kondratyev, Dmitry, et al.
Veröffentlicht: (2025)

rule4ml: An Open-Source Tool for Resource Utilization and Latency Estimation for ML Models on FPGA
von: Rahimifar, Mohammad Mehdi, et al.
Veröffentlicht: (2024)

Unraveling Shadows: Exploring the Realm of Elite Cyber Spies
von: Parast, Fatemeh Khoda
Veröffentlicht: (2024)

Ultrafast jet classification on FPGAs for the HL-LHC
von: Odagiu, Patrick, et al.
Veröffentlicht: (2024)

Rapid Likelihood Free Inference of Compact Binary Coalescences using Accelerated Hardware
von: Chatterjee, Deep, et al.
Veröffentlicht: (2024)

Nour-elhaq/europe-load-forecast-ml: europe load forecast ml
von: Nour El Haq
Veröffentlicht: (2026)

Hyperion: Low-Latency Ultra-HD Video Analytics via Collaborative Vision Transformer Inference
von: Jiang, Linyi, et al.
Veröffentlicht: (2025)

topological-features-protein-ml
von: Mishra, Amish, et al.
Veröffentlicht: (2025)

Staircase Streaming for Low-Latency Multi-Agent Inference
von: Wang, Junlin, et al.
Veröffentlicht: (2025)

Ultra-Low-Latency Edge Inference for Distributed Sensing
von: Wang, Zhanwei, et al.
Veröffentlicht: (2024)

Optimizing Communication for Latency Sensitive HPC Applications on up to 48 FPGAs Using ACCL
von: Meyer, Marius, et al.
Veröffentlicht: (2024)

Contesting individualization and individualism in marriage in East Asia: Dual‐income couples' monetary practices
von: Chieh Hsu
Veröffentlicht: (2024)

The Effects of Latency on a Progressive Second-Price Auction
von: Blazek, Jordana, et al.
Veröffentlicht: (2025)

AttnMod: Attention-Based New Art Styles
von: Su, Shih-Chieh
Veröffentlicht: (2024)

LLUAD: Low-Latency User-Anonymized DNS
von: Sjösvärd, Philip, et al.
Veröffentlicht: (2025)

Large Language Model Partitioning for Low-Latency Inference at the Edge
von: Kafetzis, Dimitrios, et al.
Veröffentlicht: (2025)

Action Deviation-Aware Inference for Low-Latency Wireless Robots
von: Park, Jeyoung, et al.
Veröffentlicht: (2025)

Stateful Inference for Low-Latency Multi-Agent Tool Calling
von: Norgren, Victor
Veröffentlicht: (2026)

Prompt Cache: Modular Attention Reuse for Low-Latency Inference
von: Gim, In, et al.
Veröffentlicht: (2023)

LatencyPrism: Online Non-intrusive Latency Sculpting for SLO-Guaranteed LLM Inference
von: Du, Yin, et al.
Veröffentlicht: (2026)

A Low-Power Sparse Deep Learning Accelerator with Optimized Data Reuse
von: Hsu, Kai-Chieh, et al.
Veröffentlicht: (2025)

AI-Driven Cyber Threat Intelligence Automation
von: Shah, Shrit, et al.
Veröffentlicht: (2024)

Statistical Inference for Scale Mixture Models via Mellin Transform Approach
von: Belomestny, Denis, et al.
Veröffentlicht: (2022)

Towards Deep Encrypted Training: Low-Latency, Memory-Efficient, and High-Throughput Inference for Privacy-Preserving Neural Networks
von: Njungle, Nges Brian, et al.
Veröffentlicht: (2026)