Efficient Partitioning Vision Transformer on Edge Devices for Distributed Inference
Fuente:
arXiv
Gespeichert in:
| Hauptverfasser: | Liu, Xiang, Song, Yijun, Li, Xia, Sun, Yifei, Lan, Huiying, Liu, Zemin, Jiang, Linshan, Li, Jialin |
|---|---|
| Format: | Preprint |
| Veröffentlicht: |
2024
|
| Schlagworte: | |
| Online-Zugang: | |
| Tags: |
Tag hinzufügen
Keine Tags, Fügen Sie den ersten Tag hinzu!
|
Ähnliche Einträge
Enhanced Structured Lasso Pruning with Class-wise Information
von: Liu, Xiang, et al.
Veröffentlicht: (2025)
von: Liu, Xiang, et al.
Veröffentlicht: (2025)
EdgeFM: Efficient Edge Inference for Vision-Language Models
von: Deng, Mengling, et al.
Veröffentlicht: (2026)
von: Deng, Mengling, et al.
Veröffentlicht: (2026)
TCSAFormer: Efficient Vision Transformer with Token Compression and Sparse Attention for Medical Image Segmentation
von: Xia, Zunhui, et al.
Veröffentlicht: (2025)
von: Xia, Zunhui, et al.
Veröffentlicht: (2025)
Multiple-Exit Tuning: Towards Inference-Efficient Adaptation for Vision Transformer
von: Liu, Zheng, et al.
Veröffentlicht: (2024)
von: Liu, Zheng, et al.
Veröffentlicht: (2024)
CloudFort: Enhancing Robustness of 3D Point Cloud Classification Against Backdoor Attacks via Spatial Partitioning and Ensemble Prediction
von: Lan, Wenhao, et al.
Veröffentlicht: (2024)
von: Lan, Wenhao, et al.
Veröffentlicht: (2024)
UniForm: A Reuse Attention Mechanism Optimized for Efficient Vision Transformers on Edge Devices
von: Yeom, Seul-Ki, et al.
Veröffentlicht: (2024)
von: Yeom, Seul-Ki, et al.
Veröffentlicht: (2024)
Fluid Dynamic DNNs for Reliable and Adaptive Distributed Inference on Edge Devices
von: Xun, Lei, et al.
Veröffentlicht: (2024)
von: Xun, Lei, et al.
Veröffentlicht: (2024)
MicroViT: A Vision Transformer with Low Complexity Self Attention for Edge Device
von: Setyawan, Novendra, et al.
Veröffentlicht: (2025)
von: Setyawan, Novendra, et al.
Veröffentlicht: (2025)
MedFormer: Hierarchical Medical Vision Transformer with Content-Aware Dual Sparse Selection Attention
von: Xia, Zunhui, et al.
Veröffentlicht: (2025)
von: Xia, Zunhui, et al.
Veröffentlicht: (2025)
Sparse-Tuning: Adapting Vision Transformers with Efficient Fine-tuning and Inference
von: Liu, Ting, et al.
Veröffentlicht: (2024)
von: Liu, Ting, et al.
Veröffentlicht: (2024)
A Study on Inference Latency for Vision Transformers on Mobile Devices
von: Li, Zhuojin, et al.
Veröffentlicht: (2025)
von: Li, Zhuojin, et al.
Veröffentlicht: (2025)
Task-Oriented Feature Compression for Multimodal Understanding via Device-Edge Co-Inference
von: Yuan, Cheng, et al.
Veröffentlicht: (2025)
von: Yuan, Cheng, et al.
Veröffentlicht: (2025)
NuWa: Deriving Lightweight Task-Specific Vision Transformers for Edge Devices
von: Wei, Ziteng, et al.
Veröffentlicht: (2025)
von: Wei, Ziteng, et al.
Veröffentlicht: (2025)
ADFQ-ViT: Activation-Distribution-Friendly Post-Training Quantization for Vision Transformers
von: Jiang, Yanfeng, et al.
Veröffentlicht: (2024)
von: Jiang, Yanfeng, et al.
Veröffentlicht: (2024)
Multi-Tailed Vision Transformer for Efficient Inference
von: Wang, Yunke, et al.
Veröffentlicht: (2022)
von: Wang, Yunke, et al.
Veröffentlicht: (2022)
EViT-Unet: U-Net Like Efficient Vision Transformer for Medical Image Segmentation on Mobile and Edge Devices
von: Li, Xin, et al.
Veröffentlicht: (2024)
von: Li, Xin, et al.
Veröffentlicht: (2024)
YOLIC: An Efficient Method for Object Localization and Classification on Edge Devices
von: Su, Kai, et al.
Veröffentlicht: (2023)
von: Su, Kai, et al.
Veröffentlicht: (2023)
OmniVLM: A Token-Compressed, Sub-Billion-Parameter Vision-Language Model for Efficient On-Device Inference
von: Chen, Wei, et al.
Veröffentlicht: (2024)
von: Chen, Wei, et al.
Veröffentlicht: (2024)
SnapGen++: Unleashing Diffusion Transformers for Efficient High-Fidelity Image Generation on Edge Devices
von: Hu, Dongting, et al.
Veröffentlicht: (2026)
von: Hu, Dongting, et al.
Veröffentlicht: (2026)
Collaborative Edge-to-Server Inference for Vision-Language Models
von: Song, Soochang, et al.
Veröffentlicht: (2025)
von: Song, Soochang, et al.
Veröffentlicht: (2025)
EfficientQuant: An Efficient Post-Training Quantization for CNN-Transformer Hybrid Models on Edge Devices
von: Saha, Shaibal, et al.
Veröffentlicht: (2025)
von: Saha, Shaibal, et al.
Veröffentlicht: (2025)
MaTVLM: Hybrid Mamba-Transformer for Efficient Vision-Language Modeling
von: Li, Yingyue, et al.
Veröffentlicht: (2025)
von: Li, Yingyue, et al.
Veröffentlicht: (2025)
Ask the Expert: Collaborative Inference for Vision Transformers with Near-Edge Accelerators
von: Liu, Hao, et al.
Veröffentlicht: (2026)
von: Liu, Hao, et al.
Veröffentlicht: (2026)
ToFe: Lagged Token Freezing and Reusing for Efficient Vision Transformer Inference
von: Zhang, Haoyue, et al.
Veröffentlicht: (2025)
von: Zhang, Haoyue, et al.
Veröffentlicht: (2025)
COST: Contrastive One-Stage Transformer for Vision-Language Small Object Tracking
von: Zhang, Chunhui, et al.
Veröffentlicht: (2025)
von: Zhang, Chunhui, et al.
Veröffentlicht: (2025)
Energy-Efficient Fast Object Detection on Edge Devices for IoT Systems
von: Achmadiah, Mas Nurul, et al.
Veröffentlicht: (2026)
von: Achmadiah, Mas Nurul, et al.
Veröffentlicht: (2026)
Activating Distributed Visual Region within LLMs for Efficient and Effective Vision-Language Training and Inference
von: Wang, Siyuan, et al.
Veröffentlicht: (2024)
von: Wang, Siyuan, et al.
Veröffentlicht: (2024)
HyperVL: An Efficient and Dynamic Multimodal Large Language Model for Edge Devices
von: HyperAI Team, et al.
Veröffentlicht: (2025)
von: HyperAI Team, et al.
Veröffentlicht: (2025)
Representative Attention For Vision Transformers
von: Li, Yuntong, et al.
Veröffentlicht: (2026)
von: Li, Yuntong, et al.
Veröffentlicht: (2026)
Efficient Inference of Vision Instruction-Following Models with Elastic Cache
von: Liu, Zuyan, et al.
Veröffentlicht: (2024)
von: Liu, Zuyan, et al.
Veröffentlicht: (2024)
Convolutional Initialization for Data-Efficient Vision Transformers
von: Zheng, Jianqiao, et al.
Veröffentlicht: (2024)
von: Zheng, Jianqiao, et al.
Veröffentlicht: (2024)
xEdgeFace: Efficient Cross-Spectral Face Recognition for Edge Devices
von: George, Anjith, et al.
Veröffentlicht: (2025)
von: George, Anjith, et al.
Veröffentlicht: (2025)
EdgeDiT: Hardware-Aware Diffusion Transformers for Efficient On-Device Image Generation
von: Kodavanti, Sravanth, et al.
Veröffentlicht: (2026)
von: Kodavanti, Sravanth, et al.
Veröffentlicht: (2026)
Integrating Amortized Inference with Diffusion Models for Learning Clean Distribution from Corrupted Images
von: Wang, Yifei, et al.
Veröffentlicht: (2024)
von: Wang, Yifei, et al.
Veröffentlicht: (2024)
Path-Adaptive Matting for Efficient Inference Under Various Computational Cost Constraints
von: Liu, Qinglin, et al.
Veröffentlicht: (2025)
von: Liu, Qinglin, et al.
Veröffentlicht: (2025)
Independently Keypoint Learning for Small Object Semantic Correspondence
von: Jin, Hailong, et al.
Veröffentlicht: (2024)
von: Jin, Hailong, et al.
Veröffentlicht: (2024)
Think Twice, Act Once: Token-Aware Compression and Action Reuse for Efficient Inference in Vision-Language-Action Models
von: Tan, Xudong, et al.
Veröffentlicht: (2025)
von: Tan, Xudong, et al.
Veröffentlicht: (2025)
SIF: Semantically In-Distribution Fingerprints for Large Vision-Language Models
von: Zhao, Yifei, et al.
Veröffentlicht: (2026)
von: Zhao, Yifei, et al.
Veröffentlicht: (2026)
EventFlash: Towards Efficient MLLMs for Event-Based Vision
von: Liu, Shaoyu, et al.
Veröffentlicht: (2026)
von: Liu, Shaoyu, et al.
Veröffentlicht: (2026)
EdgeFace: Efficient Face Recognition Model for Edge Devices
von: George, Anjith, et al.
Veröffentlicht: (2023)
von: George, Anjith, et al.
Veröffentlicht: (2023)
Ähnliche Einträge
-
Enhanced Structured Lasso Pruning with Class-wise Information
von: Liu, Xiang, et al.
Veröffentlicht: (2025) -
EdgeFM: Efficient Edge Inference for Vision-Language Models
von: Deng, Mengling, et al.
Veröffentlicht: (2026) -
TCSAFormer: Efficient Vision Transformer with Token Compression and Sparse Attention for Medical Image Segmentation
von: Xia, Zunhui, et al.
Veröffentlicht: (2025) -
Multiple-Exit Tuning: Towards Inference-Efficient Adaptation for Vision Transformer
von: Liu, Zheng, et al.
Veröffentlicht: (2024) -
CloudFort: Enhancing Robustness of 3D Point Cloud Classification Against Backdoor Attacks via Spatial Partitioning and Ensemble Prediction
von: Lan, Wenhao, et al.
Veröffentlicht: (2024)