From pre-training to downstream performance: Does domain-specific pre-training make sense?
Fuente:
arXiv
Gespeichert in:
| 1. Verfasser: | Krones, Felix |
|---|---|
| Format: | Preprint |
| Veröffentlicht: |
2026
|
| Schlagworte: | |
| Online-Zugang: | |
| Tags: |
Tag hinzufügen
Keine Tags, Fügen Sie den ersten Tag hinzu!
|
Ähnliche Einträge
Fast constrained sampling in pre-trained diffusion models
von: Graikos, Alexandros, et al.
Veröffentlicht: (2024)
von: Graikos, Alexandros, et al.
Veröffentlicht: (2024)
Comprehensive language-image pre-training for 3D medical image understanding
von: Wald, Tassilo, et al.
Veröffentlicht: (2025)
von: Wald, Tassilo, et al.
Veröffentlicht: (2025)
Improving fine-grained understanding in image-text pre-training
von: Bica, Ioana, et al.
Veröffentlicht: (2024)
von: Bica, Ioana, et al.
Veröffentlicht: (2024)
Revisiting MAE pre-training for 3D medical image segmentation
von: Wald, Tassilo, et al.
Veröffentlicht: (2024)
von: Wald, Tassilo, et al.
Veröffentlicht: (2024)
Referential communication in heterogeneous communities of pre-trained visual deep networks
von: Mahaut, Matéo, et al.
Veröffentlicht: (2023)
von: Mahaut, Matéo, et al.
Veröffentlicht: (2023)
Post-pre-training for Modality Alignment in Vision-Language Foundation Models
von: Yamaguchi, Shin'ya, et al.
Veröffentlicht: (2025)
von: Yamaguchi, Shin'ya, et al.
Veröffentlicht: (2025)
Utilizing Transfer Learning and pre-trained Models for Effective Forest Fire Detection: A Case Study of Uttarakhand
von: Gupta, Hari Prabhat, et al.
Veröffentlicht: (2024)
von: Gupta, Hari Prabhat, et al.
Veröffentlicht: (2024)
General surgery vision transformer: A video pre-trained foundation model for general surgery
von: Schmidgall, Samuel, et al.
Veröffentlicht: (2024)
von: Schmidgall, Samuel, et al.
Veröffentlicht: (2024)
Large-scale unsupervised audio pre-training for video-to-speech synthesis
von: Kefalas, Triantafyllos, et al.
Veröffentlicht: (2023)
von: Kefalas, Triantafyllos, et al.
Veröffentlicht: (2023)
Review of multimodal machine learning approaches in healthcare
von: Krones, Felix, et al.
Veröffentlicht: (2024)
von: Krones, Felix, et al.
Veröffentlicht: (2024)
GD doesn't make the cut: Three ways that non-differentiability affects neural network training
von: Kumar, Siddharth Krishna
Veröffentlicht: (2024)
von: Kumar, Siddharth Krishna
Veröffentlicht: (2024)
How Does the Spatial Distribution of Pre-training Data Affect Geospatial Foundation Models?
von: Purohit, Mirali, et al.
Veröffentlicht: (2025)
von: Purohit, Mirali, et al.
Veröffentlicht: (2025)
Significantly improving zero-shot X-ray pathology classification via fine-tuning pre-trained image-text encoders
von: Jang, Jongseong, et al.
Veröffentlicht: (2022)
von: Jang, Jongseong, et al.
Veröffentlicht: (2022)
Online pre-training with long-form videos
von: Kato, Itsuki, et al.
Veröffentlicht: (2024)
von: Kato, Itsuki, et al.
Veröffentlicht: (2024)
CromSS: Cross-modal pre-training with noisy labels for remote sensing image segmentation
von: Liu, Chenying, et al.
Veröffentlicht: (2024)
von: Liu, Chenying, et al.
Veröffentlicht: (2024)
Diff-Instruct: A Universal Approach for Transferring Knowledge From Pre-trained Diffusion Models
von: Luo, Weijian, et al.
Veröffentlicht: (2023)
von: Luo, Weijian, et al.
Veröffentlicht: (2023)
A generalised pre-training strategy for deep learning networks in semantic segmentation of remotely sensed images
von: Fang, Yuan, et al.
Veröffentlicht: (2026)
von: Fang, Yuan, et al.
Veröffentlicht: (2026)
Anatomical grounding pre-training for medical phrase grounding
von: Zhang, Wenjun, et al.
Veröffentlicht: (2025)
von: Zhang, Wenjun, et al.
Veröffentlicht: (2025)
How to train your ViT for OOD Detection
von: Mueller, Maximilian, et al.
Veröffentlicht: (2024)
von: Mueller, Maximilian, et al.
Veröffentlicht: (2024)
Split Adaptation for Pre-trained Vision Transformers
von: Wang, Lixu, et al.
Veröffentlicht: (2025)
von: Wang, Lixu, et al.
Veröffentlicht: (2025)
Feature Unlearning for Pre-trained GANs and VAEs
von: Moon, Saemi, et al.
Veröffentlicht: (2023)
von: Moon, Saemi, et al.
Veröffentlicht: (2023)
More performant and scalable: Rethinking contrastive vision-language pre-training of radiology in the LLM era
von: Li, Yingtai, et al.
Veröffentlicht: (2025)
von: Li, Yingtai, et al.
Veröffentlicht: (2025)
Unified Latents (UL): How to train your latents
von: Heek, Jonathan, et al.
Veröffentlicht: (2026)
von: Heek, Jonathan, et al.
Veröffentlicht: (2026)
FedPOD: the deployable units of training for federated learning
von: Kim, Daewoon, et al.
Veröffentlicht: (2025)
von: Kim, Daewoon, et al.
Veröffentlicht: (2025)
Multimodal Autoregressive Pre-training of Large Vision Encoders
von: Fini, Enrico, et al.
Veröffentlicht: (2024)
von: Fini, Enrico, et al.
Veröffentlicht: (2024)
Progressive Local Alignment for Medical Multimodal Pre-training
von: Yan, Huimin, et al.
Veröffentlicht: (2025)
von: Yan, Huimin, et al.
Veröffentlicht: (2025)
PQD: Post-training Quantization for Efficient Diffusion Models
von: Ye, Jiaojiao, et al.
Veröffentlicht: (2024)
von: Ye, Jiaojiao, et al.
Veröffentlicht: (2024)
Epistemic Uncertainty Quantification For Pre-trained Neural Network
von: Wang, Hanjing, et al.
Veröffentlicht: (2024)
von: Wang, Hanjing, et al.
Veröffentlicht: (2024)
G2D: From Global to Dense Radiography Representation Learning via Vision-Language Pre-training
von: Liu, Che, et al.
Veröffentlicht: (2023)
von: Liu, Che, et al.
Veröffentlicht: (2023)
Contrastive ground-level image and remote sensing pre-training improves representation learning for natural world imagery
von: Huynh, Andy V., et al.
Veröffentlicht: (2024)
von: Huynh, Andy V., et al.
Veröffentlicht: (2024)
Efficient training for compact compression models via sequential distillation
von: Rodrigues, Caroline Mazini, et al.
Veröffentlicht: (2026)
von: Rodrigues, Caroline Mazini, et al.
Veröffentlicht: (2026)
Anatomically-guided masked autoencoder pre-training for aneurysm detection
von: Ceballos-Arroyo, Alberto Mario, et al.
Veröffentlicht: (2025)
von: Ceballos-Arroyo, Alberto Mario, et al.
Veröffentlicht: (2025)
MGI: Multimodal Contrastive pre-training of Genomic and Medical Imaging
von: Zhou, Jiaying, et al.
Veröffentlicht: (2024)
von: Zhou, Jiaying, et al.
Veröffentlicht: (2024)
Exploring bidirectional bounds for minimax-training of Energy-based models
von: Geng, Cong, et al.
Veröffentlicht: (2025)
von: Geng, Cong, et al.
Veröffentlicht: (2025)
Realistic Continual Learning Approach using Pre-trained Models
von: Nasri, Nadia, et al.
Veröffentlicht: (2024)
von: Nasri, Nadia, et al.
Veröffentlicht: (2024)
Divide and not forget: Ensemble of selectively trained experts in Continual Learning
von: Rypeść, Grzegorz, et al.
Veröffentlicht: (2024)
von: Rypeść, Grzegorz, et al.
Veröffentlicht: (2024)
Resilient Contrastive Pre-training under Non-Stationary Drift
von: Yang, Xiaoyu, et al.
Veröffentlicht: (2025)
von: Yang, Xiaoyu, et al.
Veröffentlicht: (2025)
Pre-trained Visual Dynamics Representations for Efficient Policy Learning
von: Luo, Hao, et al.
Veröffentlicht: (2024)
von: Luo, Hao, et al.
Veröffentlicht: (2024)
Do Pre-trained Models Benefit Equally in Continual Learning?
von: Lee, Kuan-Ying, et al.
Veröffentlicht: (2022)
von: Lee, Kuan-Ying, et al.
Veröffentlicht: (2022)
Space Syntax-guided Post-training for Residential Floor Plan Generation
von: Jiang, Zhuoyang, et al.
Veröffentlicht: (2026)
von: Jiang, Zhuoyang, et al.
Veröffentlicht: (2026)
Ähnliche Einträge
-
Fast constrained sampling in pre-trained diffusion models
von: Graikos, Alexandros, et al.
Veröffentlicht: (2024) -
Comprehensive language-image pre-training for 3D medical image understanding
von: Wald, Tassilo, et al.
Veröffentlicht: (2025) -
Improving fine-grained understanding in image-text pre-training
von: Bica, Ioana, et al.
Veröffentlicht: (2024) -
Revisiting MAE pre-training for 3D medical image segmentation
von: Wald, Tassilo, et al.
Veröffentlicht: (2024) -
Referential communication in heterogeneous communities of pre-trained visual deep networks
von: Mahaut, Matéo, et al.
Veröffentlicht: (2023)