Buchumschlag

Physics-Guided Transformer (PGT): Physics-Aware Attention Mechanism for PINNs

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Zeraatkar, Ehsan, Podorozhny, Rodion, Tešić, Jelena
Format:	Preprint
Veröffentlicht:	2026
Schlagworte:	Machine Learning Artificial Intelligence
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Energy-Efficient Transformer Inference: Optimization Strategies for Time Series Classification
von: Kermani, Arshia, et al.
Veröffentlicht: (2025)

Frequency-Aware Vision Transformers for High-Fidelity Super-Resolution of Earth System Models
von: Zeraatkar, Ehsan, et al.
Veröffentlicht: (2025)

ViSIR: Vision Transformer Single Image Reconstruction Method for Earth System Models
von: Zeraatkar, Ehsan, et al.
Veröffentlicht: (2025)

Physics-Guided Tiny-Mamba Transformer for Reliability-Aware Early Fault Warning
von: Li, Changyu, et al.
Veröffentlicht: (2026)

Continuous-Time Attention: PDE-Guided Mechanisms for Long-Sequence Transformers
von: Zhang, Yukun, et al.
Veröffentlicht: (2025)

Mask-PINNs: Mitigating Internal Covariate Shift in Physics-Informed Neural Networks
von: Jiang, Feilong, et al.
Veröffentlicht: (2025)

FAMOUS: Flexible Accelerator for the Attention Mechanism of Transformer on UltraScale+ FPGAs
von: Kabir, Ehsan, et al.
Veröffentlicht: (2024)

Transolver is a Linear Transformer: Revisiting Physics-Attention through the Lens of Linear Attention
von: Hu, Wenjie, et al.
Veröffentlicht: (2025)

From PINNs to PIKANs: Recent Advances in Physics-Informed Machine Learning
von: Toscano, Juan Diego, et al.
Veröffentlicht: (2024)

Outperforming Self-Attention Mechanisms in Solar Irradiance Forecasting via Physics-Guided Neural Networks
von: Abdullah, Mohammed Ezzaldin Babiker, et al.
Veröffentlicht: (2026)

SEA: State-Exchange Attention for High-Fidelity Physics Based Transformers
von: Esmati, Parsa, et al.
Veröffentlicht: (2024)

Feature Mapping in Physics-Informed Neural Networks (PINNs)
von: Zeng, Chengxi, et al.
Veröffentlicht: (2024)

Paradigms of AI Evaluation: Mapping Goals, Methodologies and Culture
von: Burden, John, et al.
Veröffentlicht: (2025)

Dispatch-Aware Ragged Attention for Pruned Vision Transformers
von: Abdellatif, Seifeldin, et al.
Veröffentlicht: (2026)

Object-Centric World Models Meet Monte Carlo Tree Search
von: Vakhitov, Rodion, et al.
Veröffentlicht: (2026)

Physics-Informed Teleconnection-Aware Transformer for Global Subseasonal-to-Seasonal Forecasting
von: Lyu, Tengfei, et al.
Veröffentlicht: (2025)

PGT-I: Scaling Spatiotemporal GNNs with Memory-Efficient Distributed Training
von: Ockerman, Seth, et al.
Veröffentlicht: (2025)

Neighbourhood Transformer: Switchable Attention for Monophily-Aware Graph Learning
von: Luo, Yi, et al.
Veröffentlicht: (2026)

Physics-Guided Multimodal Transformers are the Necessary Foundation for the Next Generation of Meteorological Science
von: Han, Jing, et al.
Veröffentlicht: (2025)

KAN KAN Buff Signed Graph Neural Networks?
von: Shebaro, Muhieddine, et al.
Veröffentlicht: (2025)

Unveiling the optimization process of Physics Informed Neural Networks: How accurate and competitive can PINNs be?
von: Urbán, Jorge F., et al.
Veröffentlicht: (2024)

Noisy PDE Training Requires Bigger PINNs
von: Andre-Sloan, Sebastien, et al.
Veröffentlicht: (2025)

GTA: A Geometry-Aware Attention Mechanism for Multi-View Transformers
von: Miyato, Takeru, et al.
Veröffentlicht: (2023)

Linear Transformers as VAR Models: Aligning Autoregressive Attention Mechanisms with Autoregressive Forecasting
von: Lu, Jiecheng, et al.
Veröffentlicht: (2025)

REAct: Rational Exponential Activation for Better Learning and Generalization in PINNs
von: Mishra, Sourav, et al.
Veröffentlicht: (2025)

DGTN: Graph-Enhanced Transformer with Diffusive Attention Gating Mechanism for Enzyme DDG Prediction
von: Lin, Abigail
Veröffentlicht: (2025)

Towards Physics-Guided Foundation Models
von: Farhadloo, Majid, et al.
Veröffentlicht: (2025)

SimFair: Physics-Guided Fairness-Aware Learning with Simulation Models
von: Wang, Zhihao, et al.
Veröffentlicht: (2024)

Linear Attention with Global Context: A Multipole Attention Mechanism for Vision and Physics
von: Colagrande, Alex, et al.
Veröffentlicht: (2025)

Learning From High-Dimensional Cyber-Physical Data Streams for Diagnosing Faults in Smart Grids
von: Hassani, Hossein, et al.
Veröffentlicht: (2023)

Integrating Locality-Aware Attention with Transformers for General Geometry PDEs
von: Koh, Minsu, et al.
Veröffentlicht: (2025)

VSFormer: Value and Shape-Aware Transformer with Prior-Enhanced Self-Attention for Multivariate Time Series Classification
von: Xi, Wenjie, et al.
Veröffentlicht: (2024)

SG-XDEAT: Sparsity-Guided Cross-Dimensional and Cross-Encoding Attention with Target-Aware Conditioning in Tabular Learning
von: Cheng, Chih-Chuan, et al.
Veröffentlicht: (2025)

Quantifying constraint hierarchies in Bayesian PINNs via per-constraint Hessian decomposition
von: Landgren, Filip
Veröffentlicht: (2025)

The Bayesian Geometry of Transformer Attention
von: Agarwal, Naman, et al.
Veröffentlicht: (2025)

Physics-Guided Geometric Diffusion for Macro Placement Generation
von: Yoon, Jongho, et al.
Veröffentlicht: (2026)

Physics-Guided Memory Network for Building Energy Modeling
von: Danish, Muhammad Umair, et al.
Veröffentlicht: (2025)

Precision Tracked Transformer via Kalman Filtering, Kriging and Process Noise
von: Long, Bo, et al.
Veröffentlicht: (2026)

Do Physics Foundation Models Learn Generalizable Physics? A Bias-Aware Benchmark Across Physical Regimes and Distribution Shifts
von: Chu, Mengdi, et al.
Veröffentlicht: (2026)

When and Why Adversarial Training Improves PINNs: A Neural Tangent Kernel Perspective
von: Cao, Yuan-dong, et al.
Veröffentlicht: (2026)