LATTE: Low-Precision Approximate Attention with Head-wise Trainable Threshold for Efficient Transformer
Fuente:
arXiv
Salvato in:
| Autori principali: | Wang, Jiing-Ping, Lin, Ming-Guang, An-Yeu, Wu |
|---|---|
| Natura: | Preprint |
| Pubblicazione: |
2024
|
| Soggetti: | |
| Accesso online: | |
| Tags: |
Aggiungi Tag
Nessun Tag, puoi essere il primo ad aggiungerne!!
|
Documenti analoghi
RAVEN: Radar Adaptive Vision Encoders for Efficient Chirp-wise Object Detection and Segmentation
di: Sen, Anuvab, et al.
Pubblicazione: (2026)
di: Sen, Anuvab, et al.
Pubblicazione: (2026)
Hamming Attention Distillation: Binarizing Keys and Queries for Efficient Long-Context Transformers
di: Horton, Mark, et al.
Pubblicazione: (2025)
di: Horton, Mark, et al.
Pubblicazione: (2025)
Learning Binary Color Filter Arrays with Trainable Hard Thresholding
di: Ayna, Cemre Omer, et al.
Pubblicazione: (2024)
di: Ayna, Cemre Omer, et al.
Pubblicazione: (2024)
EHVC: Efficient Hierarchical Reference and Quality Structure for Neural Video Coding
di: Liao, Junqi, et al.
Pubblicazione: (2025)
di: Liao, Junqi, et al.
Pubblicazione: (2025)
Attention Incorporated Network for Sharing Low-rank, Image and K-space Information during MR Image Reconstruction to Achieve Single Breath-hold Cardiac Cine Imaging
di: Xu, Siying, et al.
Pubblicazione: (2024)
di: Xu, Siying, et al.
Pubblicazione: (2024)
Multimodal Neuroimaging Attention-Based architecture for Cognitive Decline Prediction
di: Vo, Jamie, et al.
Pubblicazione: (2023)
di: Vo, Jamie, et al.
Pubblicazione: (2023)
An Explainable Attention Model for Cervical Precancer Risk Classification using Colposcopic Images
di: Khare, Smith K., et al.
Pubblicazione: (2024)
di: Khare, Smith K., et al.
Pubblicazione: (2024)
MIDOG 2025: Mitotic Figure Detection with Attention-Guided False Positive Correction
di: Broad, Andrew, et al.
Pubblicazione: (2025)
di: Broad, Andrew, et al.
Pubblicazione: (2025)
PEANO-ViT: Power-Efficient Approximations of Non-Linearities in Vision Transformers
di: Sadeghi, Mohammad Erfan, et al.
Pubblicazione: (2024)
di: Sadeghi, Mohammad Erfan, et al.
Pubblicazione: (2024)
Beyond Data Scarcity Optimizing R3GAN for Medical Image Generation from Small Datasets
di: Pan, Tsung-Wei, et al.
Pubblicazione: (2025)
di: Pan, Tsung-Wei, et al.
Pubblicazione: (2025)
Brain Tumor Segmentation Based on Deep Learning, Attention Mechanisms, and Energy-Based Uncertainty Prediction
di: Schwehr, Zachary, et al.
Pubblicazione: (2023)
di: Schwehr, Zachary, et al.
Pubblicazione: (2023)
Neural Video Compression with In-Loop Contextual Filtering and Out-of-Loop Reconstruction Enhancement
di: Wu, Yaojun, et al.
Pubblicazione: (2025)
di: Wu, Yaojun, et al.
Pubblicazione: (2025)
PGSTalker: Real-Time Audio-Driven Talking Head Generation via 3D Gaussian Splatting with Pixel-Aware Density Control
di: Zhu, Tianheng, et al.
Pubblicazione: (2025)
di: Zhu, Tianheng, et al.
Pubblicazione: (2025)
Subject-Specific Low-Field MRI Synthesis via a Neural Operator
di: Gao, Ziqi, et al.
Pubblicazione: (2026)
di: Gao, Ziqi, et al.
Pubblicazione: (2026)
A Comprehensive Framework for Uncertainty Quantification of Voxel-wise Supervised Models in IVIM MRI
di: Casali, Nicola, et al.
Pubblicazione: (2025)
di: Casali, Nicola, et al.
Pubblicazione: (2025)
Simultaneous Deep Learning of Myocardium Segmentation and T2 Quantification for Acute Myocardial Infarction MRI
di: Zhou, Yirong, et al.
Pubblicazione: (2024)
di: Zhou, Yirong, et al.
Pubblicazione: (2024)
RN-Net: Reservoir Nodes-Enabled Neuromorphic Vision Sensing Network
di: Yoo, Sangmin, et al.
Pubblicazione: (2023)
di: Yoo, Sangmin, et al.
Pubblicazione: (2023)
Efficient Convolutional Forward Model for Passive Acoustic Mapping and Temporal Monitoring
di: Gelvez-Barrera, Tatiana, et al.
Pubblicazione: (2026)
di: Gelvez-Barrera, Tatiana, et al.
Pubblicazione: (2026)
Data-Efficient Point Cloud Semantic Segmentation Pipeline for Unimproved Roads
di: Yarovoi, Andrew, et al.
Pubblicazione: (2025)
di: Yarovoi, Andrew, et al.
Pubblicazione: (2025)
Vision Transformers for End-to-End Vision-Based Quadrotor Obstacle Avoidance
di: Bhattacharya, Anish, et al.
Pubblicazione: (2024)
di: Bhattacharya, Anish, et al.
Pubblicazione: (2024)
ReTiDe: Real-Time Denoising for Energy-Efficient Motion Picture Processing with FPGAs
di: Li, Changhong, et al.
Pubblicazione: (2025)
di: Li, Changhong, et al.
Pubblicazione: (2025)
A Scalable AI Driven, IoT Integrated Cognitive Digital Twin for Multi-Modal Neuro-Oncological Prognostics and Tumor Kinetics Prediction using Enhanced Vision Transformer and XAI
di: Banerjee, Saptarshi, et al.
Pubblicazione: (2025)
di: Banerjee, Saptarshi, et al.
Pubblicazione: (2025)
Recognizing Beam Profiles from Silicon Photonics Gratings using Transformer Model
di: Lim, Yu Dian, et al.
Pubblicazione: (2024)
di: Lim, Yu Dian, et al.
Pubblicazione: (2024)
Exploring Wavelet Transformations for Deep Learning-based Machine Condition Diagnosis
di: Piedad, Eduardo Jr, et al.
Pubblicazione: (2024)
di: Piedad, Eduardo Jr, et al.
Pubblicazione: (2024)
ODFormer: Semantic Fundus Image Segmentation Using Transformer for Optic Nerve Head Detection
di: Wang, Jiayi, et al.
Pubblicazione: (2024)
di: Wang, Jiayi, et al.
Pubblicazione: (2024)
NTIRE 2024 Challenge on Short-form UGC Video Quality Assessment: Methods and Results
di: Li, Xin, et al.
Pubblicazione: (2024)
di: Li, Xin, et al.
Pubblicazione: (2024)
An Inclusive Foundation Model for Generalizable Cytogenetics in Precision Oncology
di: Yang, Changchun, et al.
Pubblicazione: (2025)
di: Yang, Changchun, et al.
Pubblicazione: (2025)
ELFATT: Efficient Linear Fast Attention for Vision Transformers
di: Wu, Chong, et al.
Pubblicazione: (2025)
di: Wu, Chong, et al.
Pubblicazione: (2025)
Learning Modality-Aware Representations: Adaptive Group-wise Interaction Network for Multimodal MRI Synthesis
di: Song, Tao, et al.
Pubblicazione: (2024)
di: Song, Tao, et al.
Pubblicazione: (2024)
Deep Unfolded BM3D: Unrolling Non-local Collaborative Filtering into a Trainable Neural Network
di: Basim, Kerem, et al.
Pubblicazione: (2025)
di: Basim, Kerem, et al.
Pubblicazione: (2025)
CATFormer: When Continual Learning Meets Spiking Transformers With Dynamic Thresholds
di: Nagabhushana, Vaishnavi, et al.
Pubblicazione: (2026)
di: Nagabhushana, Vaishnavi, et al.
Pubblicazione: (2026)
Improving the Scan-rescan Precision of AI-based CMR Biomarker Estimation
di: Wickremasinghe, Dewmini Hasara, et al.
Pubblicazione: (2024)
di: Wickremasinghe, Dewmini Hasara, et al.
Pubblicazione: (2024)
FSSC: Federated Learning of Transformer Neural Networks for Semantic Image Communication
di: Yan, Yuna, et al.
Pubblicazione: (2024)
di: Yan, Yuna, et al.
Pubblicazione: (2024)
Transforming Precision: A Comparative Analysis of Vision Transformers, CNNs, and Traditional ML for Knee Osteoarthritis Severity Diagnosis
di: Apon, Tasnim Sakib, et al.
Pubblicazione: (2024)
di: Apon, Tasnim Sakib, et al.
Pubblicazione: (2024)
Efficient Bilinear Attention-based Fusion for Medical Visual Question Answering
di: Zhang, Zhilin, et al.
Pubblicazione: (2024)
di: Zhang, Zhilin, et al.
Pubblicazione: (2024)
Efficient Image Restoration via Latent Consistency Flow Matching
di: Cohen, Elad, et al.
Pubblicazione: (2025)
di: Cohen, Elad, et al.
Pubblicazione: (2025)
HAAT: Hybrid Attention Aggregation Transformer for Image Super-Resolution
di: Lai, Song-Jiang, et al.
Pubblicazione: (2024)
di: Lai, Song-Jiang, et al.
Pubblicazione: (2024)
Enhancing DR Classification with Swin Transformer and Shifted Window Attention
di: Boulaabi, Meher, et al.
Pubblicazione: (2025)
di: Boulaabi, Meher, et al.
Pubblicazione: (2025)
Introducing the Biomechanics-Function Relationship in Glaucoma: Improved Visual Field Loss Predictions from intraocular pressure-induced Neural Tissue Strains
di: Chuangsuwanich, Thanadet, et al.
Pubblicazione: (2024)
di: Chuangsuwanich, Thanadet, et al.
Pubblicazione: (2024)
Deep Learning Empowered Sub-Diffraction Terahertz Backpropagation Single-Pixel Imaging
di: Zhu, Yongsheng, et al.
Pubblicazione: (2025)
di: Zhu, Yongsheng, et al.
Pubblicazione: (2025)
Documenti analoghi
-
RAVEN: Radar Adaptive Vision Encoders for Efficient Chirp-wise Object Detection and Segmentation
di: Sen, Anuvab, et al.
Pubblicazione: (2026) -
Hamming Attention Distillation: Binarizing Keys and Queries for Efficient Long-Context Transformers
di: Horton, Mark, et al.
Pubblicazione: (2025) -
Learning Binary Color Filter Arrays with Trainable Hard Thresholding
di: Ayna, Cemre Omer, et al.
Pubblicazione: (2024) -
EHVC: Efficient Hierarchical Reference and Quality Structure for Neural Video Coding
di: Liao, Junqi, et al.
Pubblicazione: (2025) -
Attention Incorporated Network for Sharing Low-rank, Image and K-space Information during MR Image Reconstruction to Achieve Single Breath-hold Cardiac Cine Imaging
di: Xu, Siying, et al.
Pubblicazione: (2024)