Self-supervised Pretraining for Decision Foundation Model: Formulation, Pipeline and Challenges
Fuente:
arXiv
Gespeichert in:
| Hauptverfasser: | Liu, Xiaoqian, Jiao, Jianbin, Zhang, Junge |
|---|---|
| Format: | Preprint |
| Veröffentlicht: |
2023
|
| Schlagworte: | |
| Online-Zugang: | |
| Tags: |
Tag hinzufügen
Keine Tags, Fügen Sie den ersten Tag hinzu!
|
Ähnliche Einträge
Position: Foundation Agents as the Paradigm Shift for Decision Making
von: Liu, Xiaoqian, et al.
Veröffentlicht: (2024)
von: Liu, Xiaoqian, et al.
Veröffentlicht: (2024)
Multi-level Self-supervised Pretraining on Compositional Hierarchical Graph for Molecular Property Prediction
von: Liu, Xiayu, et al.
Veröffentlicht: (2026)
von: Liu, Xiayu, et al.
Veröffentlicht: (2026)
Diffusion-Guided Pretraining for Brain Graph Foundation Models
von: Wei, Xinxu, et al.
Veröffentlicht: (2026)
von: Wei, Xinxu, et al.
Veröffentlicht: (2026)
UTICA: Multi-Objective Self-Distllation Foundation Model Pretraining for Time Series Classification
von: Moakher, Yessin, et al.
Veröffentlicht: (2026)
von: Moakher, Yessin, et al.
Veröffentlicht: (2026)
HeterCSI: Channel-Adaptive Heterogeneous CSI Pretraining Framework for Generalized Wireless Foundation Models
von: Zhang, Chenyu, et al.
Veröffentlicht: (2026)
von: Zhang, Chenyu, et al.
Veröffentlicht: (2026)
Fostering Intrinsic Motivation in Reinforcement Learning with Pretrained Foundation Models
von: Andres, Alain, et al.
Veröffentlicht: (2024)
von: Andres, Alain, et al.
Veröffentlicht: (2024)
CauKer: Classification Time Series Foundation Models Can Be Pretrained on Synthetic Data
von: Xie, Shifeng, et al.
Veröffentlicht: (2025)
von: Xie, Shifeng, et al.
Veröffentlicht: (2025)
Bridging Distribution Gaps in Time Series Foundation Model Pretraining with Prototype-Guided Normalization
von: Gong, Peiliang, et al.
Veröffentlicht: (2025)
von: Gong, Peiliang, et al.
Veröffentlicht: (2025)
Extending Pretrained 10-Second ECG Foundation Models to Longer Horizons
von: Tang, Wei, et al.
Veröffentlicht: (2026)
von: Tang, Wei, et al.
Veröffentlicht: (2026)
Pretraining a Foundation Model for Small-Molecule Natural Products
von: Ding, Yuheng, et al.
Veröffentlicht: (2025)
von: Ding, Yuheng, et al.
Veröffentlicht: (2025)
Understanding the Training and Generalization of Pretrained Transformer for Sequential Decision Making
von: Wang, Hanzhao, et al.
Veröffentlicht: (2024)
von: Wang, Hanzhao, et al.
Veröffentlicht: (2024)
Ten Challenging Problems in Federated Foundation Models
von: Fan, Tao, et al.
Veröffentlicht: (2025)
von: Fan, Tao, et al.
Veröffentlicht: (2025)
Advancing Financial Engineering with Foundation Models: Progress, Applications, and Challenges
von: Chen, Liyuan, et al.
Veröffentlicht: (2025)
von: Chen, Liyuan, et al.
Veröffentlicht: (2025)
FMTK: A Modular Toolkit for Composable Time Series Foundation Model Pipelines
von: Shastri, Hetvi, et al.
Veröffentlicht: (2025)
von: Shastri, Hetvi, et al.
Veröffentlicht: (2025)
From Projection to Prediction: Beyond Logits for Scalable Language Models
von: Dong, Jianbing, et al.
Veröffentlicht: (2025)
von: Dong, Jianbing, et al.
Veröffentlicht: (2025)
IDEA Prune: An Integrated Enlarge-and-Prune Pipeline in Generative Language Model Pretraining
von: Li, Yixiao, et al.
Veröffentlicht: (2025)
von: Li, Yixiao, et al.
Veröffentlicht: (2025)
PRISM: Exploring Heterogeneous Pretrained EEG Foundation Model Transfer to Clinical Differential Diagnosis
von: Lahiri, Jeet Bandhu, et al.
Veröffentlicht: (2026)
von: Lahiri, Jeet Bandhu, et al.
Veröffentlicht: (2026)
Unraveling Spatio-Temporal Foundation Models via the Pipeline Lens: A Comprehensive Review
von: Fang, Yuchen, et al.
Veröffentlicht: (2025)
von: Fang, Yuchen, et al.
Veröffentlicht: (2025)
Foundation Models for Anomaly Detection: Vision and Challenges
von: Ren, Jing, et al.
Veröffentlicht: (2025)
von: Ren, Jing, et al.
Veröffentlicht: (2025)
Advances and Open Challenges in Federated Foundation Models
von: Ren, Chao, et al.
Veröffentlicht: (2024)
von: Ren, Chao, et al.
Veröffentlicht: (2024)
In-Context Decision Making for Optimizing Complex AutoML Pipelines
von: Balef, Amir Rezaei, et al.
Veröffentlicht: (2025)
von: Balef, Amir Rezaei, et al.
Veröffentlicht: (2025)
Unsupervised Graph Neural Architecture Search with Disentangled Self-supervision
von: Zhang, Zeyang, et al.
Veröffentlicht: (2024)
von: Zhang, Zeyang, et al.
Veröffentlicht: (2024)
Dual Formulation for Non-Rectangular Lp Robust Markov Decision Processes
von: Kumar, Navdeep, et al.
Veröffentlicht: (2025)
von: Kumar, Navdeep, et al.
Veröffentlicht: (2025)
Towards Open Respiratory Acoustic Foundation Models: Pretraining and Benchmarking
von: Zhang, Yuwei, et al.
Veröffentlicht: (2024)
von: Zhang, Yuwei, et al.
Veröffentlicht: (2024)
UniTabE: A Universal Pretraining Protocol for Tabular Foundation Model in Data Science
von: Yang, Yazheng, et al.
Veröffentlicht: (2023)
von: Yang, Yazheng, et al.
Veröffentlicht: (2023)
MADCluster: Model-agnostic Anomaly Detection with Self-supervised Clustering Network
von: Lee, Sangyong, et al.
Veröffentlicht: (2025)
von: Lee, Sangyong, et al.
Veröffentlicht: (2025)
Adaptive Spatio-Temporal Graphs with Self-Supervised Pretraining for Multi-Horizon Weather Forecasting
von: Liu, Yao
Veröffentlicht: (2025)
von: Liu, Yao
Veröffentlicht: (2025)
Foundation Model Self-Play: Open-Ended Strategy Innovation via Foundation Models
von: Dharna, Aaron, et al.
Veröffentlicht: (2025)
von: Dharna, Aaron, et al.
Veröffentlicht: (2025)
Self-supervised Synthetic Pretraining for Inference of Stellar Mass Embedded in Dense Gas
von: Hirashima, Keiya, et al.
Veröffentlicht: (2025)
von: Hirashima, Keiya, et al.
Veröffentlicht: (2025)
VIGraph: Generative Self-supervised Learning for Class-Imbalanced Node Classification
von: Hu, Yulan, et al.
Veröffentlicht: (2023)
von: Hu, Yulan, et al.
Veröffentlicht: (2023)
Pretraining Strategies and Scaling for ECG Foundation Models: A Systematic Study
von: Al-Masud, M A, et al.
Veröffentlicht: (2026)
von: Al-Masud, M A, et al.
Veröffentlicht: (2026)
Self-supervised learning on gene expression data
von: Dradjat, Kevin, et al.
Veröffentlicht: (2025)
von: Dradjat, Kevin, et al.
Veröffentlicht: (2025)
AnyAttack: Towards Large-scale Self-supervised Adversarial Attacks on Vision-language Models
von: Zhang, Jiaming, et al.
Veröffentlicht: (2024)
von: Zhang, Jiaming, et al.
Veröffentlicht: (2024)
An Interpretable and Scalable Framework for Evaluating Large Language Models
von: Qu, Xinhao, et al.
Veröffentlicht: (2026)
von: Qu, Xinhao, et al.
Veröffentlicht: (2026)
HeTa: Relation-wise Heterogeneous Graph Foundation Attack Model
von: Wang, Yuling, et al.
Veröffentlicht: (2025)
von: Wang, Yuling, et al.
Veröffentlicht: (2025)
Towards Fully Automated Decision-Making Systems for Greenhouse Control: Challenges and Opportunities
von: Liu, Yongshuai, et al.
Veröffentlicht: (2025)
von: Liu, Yongshuai, et al.
Veröffentlicht: (2025)
Self-supervised and Multi-fidelity Learning for Extended Predictive Soil Spectroscopy
von: Sun, Luning, et al.
Veröffentlicht: (2025)
von: Sun, Luning, et al.
Veröffentlicht: (2025)
Robust Uncertainty Quantification for Self-Evolving Large Language Models via Continual Domain Pretraining
von: Zhou, Xiaofan, et al.
Veröffentlicht: (2025)
von: Zhou, Xiaofan, et al.
Veröffentlicht: (2025)
GraphSculptor: Sculpting Pre-training Coreset for Graph Self-supervised Learning
von: Liu, Chuang, et al.
Veröffentlicht: (2026)
von: Liu, Chuang, et al.
Veröffentlicht: (2026)
Decision-Focused Fine-Tuning of Time Series Foundation Models for Dispatchable Feeder Optimization
von: Beichter, Maximilian, et al.
Veröffentlicht: (2025)
von: Beichter, Maximilian, et al.
Veröffentlicht: (2025)
Ähnliche Einträge
-
Position: Foundation Agents as the Paradigm Shift for Decision Making
von: Liu, Xiaoqian, et al.
Veröffentlicht: (2024) -
Multi-level Self-supervised Pretraining on Compositional Hierarchical Graph for Molecular Property Prediction
von: Liu, Xiayu, et al.
Veröffentlicht: (2026) -
Diffusion-Guided Pretraining for Brain Graph Foundation Models
von: Wei, Xinxu, et al.
Veröffentlicht: (2026) -
UTICA: Multi-Objective Self-Distllation Foundation Model Pretraining for Time Series Classification
von: Moakher, Yessin, et al.
Veröffentlicht: (2026) -
HeterCSI: Channel-Adaptive Heterogeneous CSI Pretraining Framework for Generalized Wireless Foundation Models
von: Zhang, Chenyu, et al.
Veröffentlicht: (2026)