Buchumschlag

Understanding the Expressivity and Trainability of Fourier Neural Operator: A Mean-Field Perspective

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Koshizuka, Takeshi, Fujisawa, Masahiro, Tanaka, Yusuke, Sato, Issei
Format:	Preprint
Veröffentlicht:	2023
Schlagworte:	Machine Learning
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Understanding Generalization in Physics Informed Models through Affine Variety Dimensions
von: Koshizuka, Takeshi, et al.
Veröffentlicht: (2025)

Understanding Linear Probing then Fine-tuning Language Models from NTK Perspective
von: Tomihari, Akiyoshi, et al.
Veröffentlicht: (2024)

On Expressive Power of Looped Transformers: Theoretical Analysis and Enhancement via Timestep Encoding
von: Xu, Kevin, et al.
Veröffentlicht: (2024)

Fix Initial Codes and Iteratively Refine Textual Directions Toward Safe Multi-Turn Code Correction
von: Tanaka, Yuto, et al.
Veröffentlicht: (2026)

Can Test-time Computation Mitigate Reproduction Bias in Neural Symbolic Regression?
von: Sato, Shun, et al.
Veröffentlicht: (2025)

Explaining Grokking and Information Bottleneck through Neural Collapse Emergence
von: Sakamoto, Keitaro, et al.
Veröffentlicht: (2025)

Multiplicative Logit Adjustment Approximates Neural-Collapse-Aware Decision Boundary Adjustment
von: Hasegawa, Naoya, et al.
Veröffentlicht: (2024)

Understanding Transformer Optimization via Gradient Heterogeneity
von: Tomihari, Akiyoshi, et al.
Veröffentlicht: (2025)

Toward a Better Understanding of Fourier Neural Operators from a Spectral Perspective
von: Qin, Shaoxiang, et al.
Veröffentlicht: (2024)

Fourier Neural Operators Explained: A Practical Perspective
von: Duruisseaux, Valentin, et al.
Veröffentlicht: (2025)

End-to-End Training Induces Information Bottleneck through Layer-Role Differentiation: A Comparative Analysis with Layer-wise Training
von: Sakamoto, Keitaro, et al.
Veröffentlicht: (2024)

Information-theoretic Generalization Analysis for VQ-VAEs: A Role of Latent Variables
von: Futami, Futoshi, et al.
Veröffentlicht: (2025)

Generative Modeling through Koopman Spectral Analysis: An Operator-Theoretic Perspective
von: Xu, Yuanchao, et al.
Veröffentlicht: (2025)

Exploring Weight Balancing on Long-Tailed Recognition Problem
von: Hasegawa, Naoya, et al.
Veröffentlicht: (2023)

Power Distribution Bridges Sampling, Self-Reward RL, and Self-Distillation
von: Tomihari, Akiyoshi, et al.
Veröffentlicht: (2026)

Benign Overfitting in Token Selection of Attention Mechanism
von: Sakamoto, Keitaro, et al.
Veröffentlicht: (2024)

Top-Down Bayesian Posterior Sampling for Sum-Product Networks
von: Yokoi, Soma, et al.
Veröffentlicht: (2024)

PAC-Bayes Analysis for Recalibration in Classification
von: Fujisawa, Masahiro, et al.
Veröffentlicht: (2024)

Information-Theoretic Generalization Bounds for Sequential Decision Making
von: Futami, Futoshi, et al.
Veröffentlicht: (2026)

To CoT or To Loop? A Formal Comparison Between Chain-of-Thought and Looped Transformers
von: Xu, Kevin, et al.
Veröffentlicht: (2025)

Neural Operators Meet Energy-based Theory: Operator Learning for Hamiltonian and Dissipative PDEs
von: Tanaka, Yusuke, et al.
Veröffentlicht: (2024)

HyResPINNs: A Hybrid Residual Physics-Informed Neural Network Architecture Designed to Balance Expressiveness and Trainability
von: Cooley, Madison, et al.
Veröffentlicht: (2024)

Max-pooling Network Revisited: Analyzing the Role of Semantic Probability in Multiple Instance Learning for Hallucination Detection
von: Fujikawa, Shota, et al.
Veröffentlicht: (2026)

Rethinking Associative Memory Mechanism in Induction Head
von: Wang, Shuo, et al.
Veröffentlicht: (2024)

On the Optimal Memorization Capacity of Transformers
von: Kajitsuka, Tokio, et al.
Veröffentlicht: (2024)

$L_2$-Regularized Empirical Risk Minimization Guarantees Small Smooth Calibration Error
von: Fujisawa, Masahiro, et al.
Veröffentlicht: (2025)

Information-theoretic Generalization Analysis for Expected Calibration Error
von: Futami, Futoshi, et al.
Veröffentlicht: (2024)

A Formal Comparison Between Chain of Thought and Latent Thought
von: Xu, Kevin, et al.
Veröffentlicht: (2025)

On the Design of Expressive and Trainable Pulse-based Quantum Machine Learning Models
von: Tao, Han-Xiao, et al.
Veröffentlicht: (2025)

Isotropic Fourier Neural Operators
von: Staddon, Michael F.
Veröffentlicht: (2026)

Analysis of Fourier Neural Operators via Effective Field Theory
von: Kim, Taeyoung
Veröffentlicht: (2025)

On the Expressiveness of Softmax Attention: A Recurrent Neural Network Perspective
von: Mongaras, Gabriel, et al.
Veröffentlicht: (2025)

On the Overlooked Pitfalls of Weight Decay and How to Mitigate Them: A Gradient-Norm Perspective
von: Xie, Zeke, et al.
Veröffentlicht: (2020)

Are Transformers with One Layer Self-Attention Using Low-Rank Weight Matrices Universal Approximators?
von: Kajitsuka, Tokio, et al.
Veröffentlicht: (2023)

MTL-FNO: A Lightweight Multi-Task Fourier Neural Operator for Sparse Field Reconstruction
von: Ye, Siyu, et al.
Veröffentlicht: (2026)

Deep Unfolding for MIMO Signal Detection
von: Ge, Hangli, et al.
Veröffentlicht: (2025)

Limits of Resolution Equivariance in Fourier Neural Operators
von: Colagrande, Alex, et al.
Veröffentlicht: (2026)

Neural Fourier Modelling: A Highly Compact Approach to Time-Series Analysis
von: Kim, Minjung, et al.
Veröffentlicht: (2024)

A New Perspective To Understanding Multi-resolution Hash Encoding For Neural Fields
von: Luo, Steven Tin Sui
Veröffentlicht: (2025)

Physics-informed Attention-enhanced Fourier Neural Operator for Solar Magnetic Field Extrapolations
von: Cao, Jinghao, et al.
Veröffentlicht: (2025)