Buchumschlag

Data-Efficient Operator Learning via Unsupervised Pretraining and In-Context Learning

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Chen, Wuyang, Song, Jialin, Ren, Pu, Subramanian, Shashank, Morozov, Dmitriy, Mahoney, Michael W.
Format:	Preprint
Veröffentlicht:	2024
Schlagworte:	Machine Learning
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

On Neural Scaling Laws for Weather Emulation through Continual Training
von: Subramanian, Shashank, et al.
Veröffentlicht: (2026)

Towards Foundation Models for Scientific Machine Learning: Characterizing Scaling and Transfer Behavior
von: Subramanian, Shashank, et al.
Veröffentlicht: (2023)

Learning Physics for Unveiling Hidden Earthquake Ground Motions via Conditional Generative Modeling
von: Ren, Pu, et al.
Veröffentlicht: (2024)

Learning Data-Efficient and Generalizable Neural Operators via Fundamental Physics Knowledge
von: Ma, Siying, et al.
Veröffentlicht: (2026)

Generative Modeling of Regular and Irregular Time Series Data via Koopman VAEs
von: Naiman, Ilan, et al.
Veröffentlicht: (2023)

On the Learning with Augmented Class via Forests
von: Xu, Fan, et al.
Veröffentlicht: (2025)

Unsupervised Meta-Learning via In-Context Learning
von: Vettoruzzo, Anna, et al.
Veröffentlicht: (2024)

WaveCastNet: Rapid Wavefield Forecasting for Earthquake Early Warning via Deep Sequence to Sequence Learning
von: Lyu, Dongwei, et al.
Veröffentlicht: (2024)

WildSmoke: Ready-to-Use Dynamic 3D Smoke Assets from a Single Video in the Wild
von: Liu, Yuqiu, et al.
Veröffentlicht: (2025)

Filtering Learning Histories Enhances In-Context Reinforcement Learning
von: Chen, Weiqin, et al.
Veröffentlicht: (2025)

Safe, Efficient, and Robust Reinforcement Learning for Ranking and Diffusion Models
von: Gupta, Shashank
Veröffentlicht: (2025)

Random Matrix Theory for Deep Learning: Beyond Eigenvalues of Linear Models
von: Liao, Zhenyu, et al.
Veröffentlicht: (2025)

Evaluating Loss Landscapes from a Topology Perspective
von: Xie, Tiankai, et al.
Veröffentlicht: (2024)

SciML Agents: Write the Solver, Not the Solution
von: Gaonkar, Saarth, et al.
Veröffentlicht: (2025)

PDE-Controller: LLMs for Autoformalization and Reasoning of PDEs
von: Soroco, Mauricio, et al.
Veröffentlicht: (2025)

Towards Scalable and Versatile Weight Space Learning
von: Schürholt, Konstantin, et al.
Veröffentlicht: (2024)

Recent and Upcoming Developments in Randomized Numerical Linear Algebra for Machine Learning
von: Dereziński, Michał, et al.
Veröffentlicht: (2024)

Transformers as Decision Makers: Provable In-Context Reinforcement Learning via Supervised Pretraining
von: Lin, Licong, et al.
Veröffentlicht: (2023)

Distilled Pretraining: A modern lens of Data, In-Context Learning and Test-Time Scaling
von: Goyal, Sachin, et al.
Veröffentlicht: (2025)

Persistence-Augmented Neural Networks
von: Wang, Elena Xinyi, et al.
Veröffentlicht: (2026)

How Many Pretraining Tasks Are Needed for In-Context Learning of Linear Regression?
von: Wu, Jingfeng, et al.
Veröffentlicht: (2023)

In-Context Multi-Operator Learning with DeepOSets
von: Chiu, Shao-Ting, et al.
Veröffentlicht: (2025)

An Unsupervised Machine Learning Approach for Ground-Motion Spectra Clustering and Selection
von: Bond, R. Bailey, et al.
Veröffentlicht: (2022)

On the Generalization Ability of Unsupervised Pretraining
von: Deng, Yuyang, et al.
Veröffentlicht: (2024)

In-Context Learning Operates as Concept Subspace Learning
von: Tang, Wei, et al.
Veröffentlicht: (2026)

Pretrain-Test Task Alignment Governs Generalization in In-Context Learning
von: Letey, Mary I., et al.
Veröffentlicht: (2025)

Learning with Incomplete Context: Linear Contextual Bandits with Pretrained Imputation
von: Yan, Hao, et al.
Veröffentlicht: (2025)

Towards Efficient Active Learning in NLP via Pretrained Representations
von: Vysogorets, Artem, et al.
Veröffentlicht: (2024)

Data-Efficient Inference of Neural Fluid Fields via SciML Foundation Model
von: Liu, Yuqiu, et al.
Veröffentlicht: (2024)

Modeling Non-Ergodic Path Effects Using Conditional Generative Model for Fourier Amplitude Spectra
von: Lacour, Maxime, et al.
Veröffentlicht: (2025)

Uncertainty-Aware Diagnostics for Physics-Informed Machine Learning
von: Daniels, Mara, et al.
Veröffentlicht: (2025)

Dual Operating Modes of In-Context Learning
von: Lin, Ziqian, et al.
Veröffentlicht: (2024)

Visualizing Loss Functions as Topological Landscape Profiles
von: Geniesse, Caleb, et al.
Veröffentlicht: (2024)

Pretrained Reversible Generation as Unsupervised Visual Representation Learning
von: Xue, Rongkun, et al.
Veröffentlicht: (2024)

Predicting the Containment Time of California Wildfires Using Machine Learning
von: Bhardwaj, Shashank
Veröffentlicht: (2025)

PICore: Physics-Informed Unsupervised Coreset Selection for Data Efficient Neural Operator Training
von: Satheesh, Anirudh, et al.
Veröffentlicht: (2025)

Statistical Inference of Constrained Stochastic Optimization via Sketched Sequential Quadratic Programming
von: Na, Sen, et al.
Veröffentlicht: (2022)

Multipole Attention for Efficient Long Context Reasoning
von: Hooper, Coleman, et al.
Veröffentlicht: (2025)

Pretraining a Shared Q-Network for Data-Efficient Offline Reinforcement Learning
von: Park, Jongchan, et al.
Veröffentlicht: (2025)

Meta-Learning and Synthetic Data for Automated Pretraining and Finetuning
von: Ferreira, Fabio
Veröffentlicht: (2025)