Beyond Conventional Transformers: The Medical X-ray Attention (MXA) Block for Improved Multi-Label Diagnosis Using Knowledge Distillation
Fuente:
arXiv
Gespeichert in:
| Hauptverfasser: | Rand, Amit, Ibrahim, Hadi |
|---|---|
| Format: | Preprint |
| Veröffentlicht: |
2025
|
| Schlagworte: | |
| Online-Zugang: | |
| Tags: |
Tag hinzufügen
Keine Tags, Fügen Sie den ersten Tag hinzu!
|
Ähnliche Einträge
Multi-Label Knowledge Distillation
von: Yang, Penghui, et al.
Veröffentlicht: (2023)
von: Yang, Penghui, et al.
Veröffentlicht: (2023)
MSVIT: Improving Spiking Vision Transformer Using Multi-scale Attention Fusion
von: Hua, Wei, et al.
Veröffentlicht: (2025)
von: Hua, Wei, et al.
Veröffentlicht: (2025)
GEMeX: A Large-Scale, Groundable, and Explainable Medical VQA Benchmark for Chest X-ray Diagnosis
von: Liu, Bo, et al.
Veröffentlicht: (2024)
von: Liu, Bo, et al.
Veröffentlicht: (2024)
Beyond CLIP: Knowledge-Enhanced Multimodal Transformers for Cross-Modal Alignment in Diabetic Retinopathy Diagnosis
von: Samanta, Argha Kamal, et al.
Veröffentlicht: (2025)
von: Samanta, Argha Kamal, et al.
Veröffentlicht: (2025)
Lagrange Duality and Compound Multi-Attention Transformer for Semi-Supervised Medical Image Segmentation
von: Zheng, Fuchen, et al.
Veröffentlicht: (2024)
von: Zheng, Fuchen, et al.
Veröffentlicht: (2024)
MedPromptX: Grounded Multimodal Prompting for Chest X-ray Diagnosis
von: Shaaban, Mai A., et al.
Veröffentlicht: (2024)
von: Shaaban, Mai A., et al.
Veröffentlicht: (2024)
Label-Augmented Dataset Distillation
von: Kang, Seoungyoon, et al.
Veröffentlicht: (2024)
von: Kang, Seoungyoon, et al.
Veröffentlicht: (2024)
DiaMond: Dementia Diagnosis with Multi-Modal Vision Transformers Using MRI and PET
von: Li, Yitong, et al.
Veröffentlicht: (2024)
von: Li, Yitong, et al.
Veröffentlicht: (2024)
Medical Slice Transformer: Improved Diagnosis and Explainability on 3D Medical Images with DINOv2
von: Müller-Franzes, Gustav, et al.
Veröffentlicht: (2024)
von: Müller-Franzes, Gustav, et al.
Veröffentlicht: (2024)
$V_kD:$ Improving Knowledge Distillation using Orthogonal Projections
von: Miles, Roy, et al.
Veröffentlicht: (2024)
von: Miles, Roy, et al.
Veröffentlicht: (2024)
CheX-DS: Improving Chest X-ray Image Classification with Ensemble Learning Based on DenseNet and Swin Transformer
von: Li, Xinran, et al.
Veröffentlicht: (2025)
von: Li, Xinran, et al.
Veröffentlicht: (2025)
GRAD-Former: Gated Robust Attention-based Differential Transformer for Change Detection
von: Ameta, Durgesh, et al.
Veröffentlicht: (2026)
von: Ameta, Durgesh, et al.
Veröffentlicht: (2026)
BLADE: Block-Sparse Attention Meets Step Distillation for Efficient Video Generation
von: Gu, Youping, et al.
Veröffentlicht: (2025)
von: Gu, Youping, et al.
Veröffentlicht: (2025)
Evaluating Visual Explanations of Attention Maps for Transformer-based Medical Imaging
von: Chung, Minjae, et al.
Veröffentlicht: (2025)
von: Chung, Minjae, et al.
Veröffentlicht: (2025)
DCMM-Transformer: Degree-Corrected Mixed-Membership Attention for Medical Imaging
von: Cheng, Huimin, et al.
Veröffentlicht: (2025)
von: Cheng, Huimin, et al.
Veröffentlicht: (2025)
Multi-Label Continual Learning for the Medical Domain: A Novel Benchmark
von: Ceccon, Marina, et al.
Veröffentlicht: (2024)
von: Ceccon, Marina, et al.
Veröffentlicht: (2024)
Incomplete Multi-View Multi-Label Classification via Shared Codebook and Fused-Teacher Self-Distillation
von: Yan, Xu, et al.
Veröffentlicht: (2026)
von: Yan, Xu, et al.
Veröffentlicht: (2026)
Interpreting Radiologist's Intention from Eye Movements in Chest X-ray Diagnosis
von: Pham, Trong-Thang, et al.
Veröffentlicht: (2025)
von: Pham, Trong-Thang, et al.
Veröffentlicht: (2025)
Towards Optimal Trade-offs in Knowledge Distillation for CNNs and Vision Transformers at the Edge
von: Violos, John, et al.
Veröffentlicht: (2024)
von: Violos, John, et al.
Veröffentlicht: (2024)
Comparing Deep Neural Network for Multi-Label ECG Diagnosis From Scanned ECG
von: Nguyen, Cuong V., et al.
Veröffentlicht: (2025)
von: Nguyen, Cuong V., et al.
Veröffentlicht: (2025)
CompoDistill: Attention Distillation for Compositional Reasoning in Multimodal LLMs
von: Kim, Jiwan, et al.
Veröffentlicht: (2025)
von: Kim, Jiwan, et al.
Veröffentlicht: (2025)
Early Exit and Multi Stage Knowledge Distillation in VLMs for Video Summarization
von: Khan, Anas Anwarul Haq, et al.
Veröffentlicht: (2025)
von: Khan, Anas Anwarul Haq, et al.
Veröffentlicht: (2025)
Hybrid Explanation-Guided Learning for Transformer-Based Chest X-Ray Diagnosis
von: Shu, Shelley Zixin, et al.
Veröffentlicht: (2025)
von: Shu, Shelley Zixin, et al.
Veröffentlicht: (2025)
MMDS: A Multimodal Medical Diagnosis System Integrating Image Analysis and Knowledge-based Departmental Consultation
von: Ren, Yi, et al.
Veröffentlicht: (2024)
von: Ren, Yi, et al.
Veröffentlicht: (2024)
Adaptive Explicit Knowledge Transfer for Knowledge Distillation
von: Park, Hyungkeun, et al.
Veröffentlicht: (2024)
von: Park, Hyungkeun, et al.
Veröffentlicht: (2024)
Progressive Knowledge Distillation Of Stable Diffusion XL Using Layer Level Loss
von: Gupta, Yatharth, et al.
Veröffentlicht: (2024)
von: Gupta, Yatharth, et al.
Veröffentlicht: (2024)
Cross-Stage Attention Multi-Expert Network for Radiologist-Inspired Breast Ultrasound Diagnosis
von: Zhai, Xinyang, et al.
Veröffentlicht: (2026)
von: Zhai, Xinyang, et al.
Veröffentlicht: (2026)
PulseMind: A Multi-Modal Medical Model for Real-World Clinical Diagnosis
von: Xu, Jiao, et al.
Veröffentlicht: (2026)
von: Xu, Jiao, et al.
Veröffentlicht: (2026)
How Does Pruning Impact Long-Tailed Multi-Label Medical Image Classifiers?
von: Holste, Gregory, et al.
Veröffentlicht: (2023)
von: Holste, Gregory, et al.
Veröffentlicht: (2023)
Iterative Refinement Strategy for Automated Data Labeling: Facial Landmark Diagnosis in Medical Imaging
von: Chen, Yu-Hsi
Veröffentlicht: (2024)
von: Chen, Yu-Hsi
Veröffentlicht: (2024)
Preventing Shortcut Learning in Medical Image Analysis through Intermediate Layer Knowledge Distillation from Specialist Teachers
von: Boland, Christopher, et al.
Veröffentlicht: (2025)
von: Boland, Christopher, et al.
Veröffentlicht: (2025)
Improving the Transferability of Adversarial Examples by Inverse Knowledge Distillation
von: Wu, Wenyuan, et al.
Veröffentlicht: (2025)
von: Wu, Wenyuan, et al.
Veröffentlicht: (2025)
EVOKE: Elevating Chest X-ray Report Generation via Multi-View Contrastive Learning and Patient-Specific Knowledge
von: Miao, Qiguang, et al.
Veröffentlicht: (2024)
von: Miao, Qiguang, et al.
Veröffentlicht: (2024)
PHI-S: Distribution Balancing for Label-Free Multi-Teacher Distillation
von: Ranzinger, Mike, et al.
Veröffentlicht: (2024)
von: Ranzinger, Mike, et al.
Veröffentlicht: (2024)
Improving Multi-Label Contrastive Learning by Leveraging Label Distribution
von: Chen, Ning, et al.
Veröffentlicht: (2025)
von: Chen, Ning, et al.
Veröffentlicht: (2025)
Explainable Knowledge Distillation for Efficient Medical Image Classification
von: Mir, Aqib Nazir, et al.
Veröffentlicht: (2025)
von: Mir, Aqib Nazir, et al.
Veröffentlicht: (2025)
Efficient Knowledge Distillation of SAM for Medical Image Segmentation
von: Patil, Kunal Dasharath, et al.
Veröffentlicht: (2025)
von: Patil, Kunal Dasharath, et al.
Veröffentlicht: (2025)
Improving Weakly-Supervised Object Localization Using Adversarial Erasing and Pseudo Label
von: Kang, Byeongkeun, et al.
Veröffentlicht: (2024)
von: Kang, Byeongkeun, et al.
Veröffentlicht: (2024)
Effective Attention-Guided Multi-Scale Medical Network for Skin Lesion Segmentation
von: Wang, Siyu, et al.
Veröffentlicht: (2025)
von: Wang, Siyu, et al.
Veröffentlicht: (2025)
Chest X-ray Classification using Deep Convolution Models on Low-resolution images with Uncertain Labels
von: Agarwal, Snigdha, et al.
Veröffentlicht: (2025)
von: Agarwal, Snigdha, et al.
Veröffentlicht: (2025)
Ähnliche Einträge
-
Multi-Label Knowledge Distillation
von: Yang, Penghui, et al.
Veröffentlicht: (2023) -
MSVIT: Improving Spiking Vision Transformer Using Multi-scale Attention Fusion
von: Hua, Wei, et al.
Veröffentlicht: (2025) -
GEMeX: A Large-Scale, Groundable, and Explainable Medical VQA Benchmark for Chest X-ray Diagnosis
von: Liu, Bo, et al.
Veröffentlicht: (2024) -
Beyond CLIP: Knowledge-Enhanced Multimodal Transformers for Cross-Modal Alignment in Diabetic Retinopathy Diagnosis
von: Samanta, Argha Kamal, et al.
Veröffentlicht: (2025) -
Lagrange Duality and Compound Multi-Attention Transformer for Semi-Supervised Medical Image Segmentation
von: Zheng, Fuchen, et al.
Veröffentlicht: (2024)