Buchumschlag

Interactive Multi-Head Self-Attention with Linear Complexity

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Kang, Hankyul, Yang, Ming-Hsuan, Ryu, Jongbin
Format:	Preprint
Veröffentlicht:	2024
Schlagworte:	Computer Vision and Pattern Recognition
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Do Your Best and Get Enough Rest for Continual Learning
von: Kang, Hankyul, et al.
Veröffentlicht: (2025)

Improving Vision Transformers by Overlapping Heads in Multi-Head Self-Attention
von: Zhang, Tianxiao, et al.
Veröffentlicht: (2024)

Fast Quantum Convolutional Neural Networks for Low-Complexity Object Detection in Autonomous Driving Applications
von: Baek, Hankyul, et al.
Veröffentlicht: (2023)

Evaluation of Winning Solutions of 2025 Low Power Computer Vision Challenge
von: Ye, Zihao, et al.
Veröffentlicht: (2026)

Weakly Supervised 3D Object Detection via Multi-Level Visual Guidance
von: Huang, Kuan-Chih, et al.
Veröffentlicht: (2023)

Robust Multiview Multimodal Driver Monitoring System Using Masked Multi-Head Self-Attention
von: Ma, Yiming, et al.
Veröffentlicht: (2023)

MHLA: Restoring Expressivity of Linear Attention via Token-Level Multi-Head
von: Zhang, Kewei, et al.
Veröffentlicht: (2026)

Multi-speaker Attention Alignment for Multimodal Social Interaction
von: Ouyang, Liangyang, et al.
Veröffentlicht: (2025)

Attention Head Purification: A New Perspective to Harness CLIP for Domain Generalization
von: Wang, Yingfan, et al.
Veröffentlicht: (2024)

Domain Adaptation of Attention Heads for Zero-shot Anomaly Detection
von: Jeong, Kiyoon, et al.
Veröffentlicht: (2025)

FaceLift: Learning Generalizable Single Image 3D Face Reconstruction from Synthetic Heads
von: Lyu, Weijie, et al.
Veröffentlicht: (2024)

CoCo4D: Comprehensive and Complex 4D Scene Generation
von: Zhou, Junwei, et al.
Veröffentlicht: (2025)

GLMHA A Guided Low-rank Multi-Head Self-Attention for Efficient Image Restoration and Spectral Reconstruction
von: Ilyas, Zaid, et al.
Veröffentlicht: (2024)

PointABM:Integrating Bidirectional State Space Model with Multi-Head Self-Attention for Point Cloud Analysis
von: Chen, Jia-wei, et al.
Veröffentlicht: (2024)

MRFD: Multi-Region Fusion Decoding with Self-Consistency for Mitigating Hallucinations in LVLMs
von: Ge, Haonan, et al.
Veröffentlicht: (2025)

Chat-Edit-3D: Interactive 3D Scene Editing via Text Prompts
von: Fang, Shuangkang, et al.
Veröffentlicht: (2024)

Event-based Facial Keypoint Alignment via Cross-Modal Fusion Attention and Self-Supervised Multi-Event Representation Learning
von: Kang, Donghwa, et al.
Veröffentlicht: (2025)

Synthesizing Consistent Novel Views via 3D Epipolar Attention without Re-Training
von: Ye, Botao, et al.
Veröffentlicht: (2025)

Multi-Page Document Visual Question Answering using Self-Attention Scoring Mechanism
von: Kang, Lei, et al.
Veröffentlicht: (2024)

Multi Head Attention Enhanced Inception v3 for Cardiomegaly Detection
von: Karthik, Abishek, et al.
Veröffentlicht: (2025)

MoH: Multi-Head Attention as Mixture-of-Head Attention
von: Jin, Peng, et al.
Veröffentlicht: (2024)

A Marine Debris Detection Framework for Ocean Robots via Self-Attention Enhancement and Feature Interaction Optimization
von: Li, Yuyang, et al.
Veröffentlicht: (2026)

RSRWKV: A Linear-Complexity 2D Attention Mechanism for Efficient Remote Sensing Vision Task
von: Li, Chunshan, et al.
Veröffentlicht: (2025)

GMAR: Gradient-Driven Multi-Head Attention Rollout for Vision Transformer Interpretability
von: Jo, Sehyeong, et al.
Veröffentlicht: (2025)

MHAFF: Multi-Head Attention Feature Fusion of CNN and Transformer for Cattle Identification
von: Dulal, Rabin, et al.
Veröffentlicht: (2025)

1st Place Solution for MOSE Track in CVPR 2024 PVUW Workshop: Complex Video Object Segmentation
von: Miao, Deshui, et al.
Veröffentlicht: (2024)

HENet++: Hybrid Encoding and Multi-task Learning for 3D Perception and End-to-end Autonomous Driving
von: Xia, Zhongyu, et al.
Veröffentlicht: (2025)

Efficient Video Object Segmentation via Modulated Cross-Attention Memory
von: Shaker, Abdelrahman, et al.
Veröffentlicht: (2024)

DFormerv2: Geometry Self-Attention for RGBD Semantic Segmentation
von: Yin, Bo-Wen, et al.
Veröffentlicht: (2025)

Efficiently Disentangling CLIP for Multi-Object Perception
von: Rawlekar, Samyak, et al.
Veröffentlicht: (2025)

Optimizing Knowledge Distillation in Transformers: Enabling Multi-Head Attention without Alignment Barriers
von: Bing, Zhaodong, et al.
Veröffentlicht: (2025)

Attention-Guided Multi-scale Interaction Network for Face Super-Resolution
von: Wan, Xujie, et al.
Veröffentlicht: (2024)

Automatic Channel Pruning for Multi-Head Attention
von: Lee, Eunho, et al.
Veröffentlicht: (2024)

Self-Attention with State-Object Weighted Combination for Compositional Zero Shot Learning
von: Chang, Cheng-Hong, et al.
Veröffentlicht: (2025)

Low-Resolution Self-Attention for Semantic Segmentation
von: Wu, Yu-Huan, et al.
Veröffentlicht: (2023)

ROMAN: Reward-Orchestrated Multi-Head Attention Network for Autonomous Driving System Testing
von: Chi, Jianlei, et al.
Veröffentlicht: (2026)

Breaking Complexity Barriers: High-Resolution Image Restoration with Rank Enhanced Linear Attention
von: Ai, Yuang, et al.
Veröffentlicht: (2025)

Castling-ViT: Compressing Self-Attention via Switching Towards Linear-Angular Attention at Vision Transformer Inference
von: You, Haoran, et al.
Veröffentlicht: (2022)

Video-CoM: Interactive Video Reasoning via Chain of Manipulations
von: Rasheed, Hanoona, et al.
Veröffentlicht: (2025)

UnMA-CapSumT: Unified and Multi-Head Attention-driven Caption Summarization Transformer
von: Sharma, Dhruv, et al.
Veröffentlicht: (2024)