Buchumschlag

OrthoFormer: Instrumental Variable Estimation in Transformer Hidden States via Neural Control Functions

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
1. Verfasser:	Luo, Charles
Format:	Preprint
Veröffentlicht:	2026
Schlagworte:	Machine Learning Artificial Intelligence
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

ShapeFormer: Shapelet Transformer for Multivariate Time Series Classification
von: Le, Xuan-May, et al.
Veröffentlicht: (2024)

On the Role of Hidden States of Modern Hopfield Network in Transformer
von: Masumura, Tsubasa, et al.
Veröffentlicht: (2025)

ElastiFormer: Learned Redundancy Reduction in Transformer via Self-Distillation
von: Liu, Junzhang, et al.
Veröffentlicht: (2024)

FlowerFormer: Empowering Neural Architecture Encoding using a Flow-aware Graph Transformer
von: Hwang, Dongyeong, et al.
Veröffentlicht: (2024)

KuaiFormer: Transformer-Based Retrieval at Kuaishou
von: Liu, Chi, et al.
Veröffentlicht: (2024)

Confounded Causal Imitation Learning with Instrumental Variables
von: Zeng, Yan, et al.
Veröffentlicht: (2025)

NoiseFormer -- Noise Diffused Symmetric Attention Transformer
von: Kumar, Phani, et al.
Veröffentlicht: (2026)

GrokFormer: Graph Fourier Kolmogorov-Arnold Transformers
von: Ai, Guoguo, et al.
Veröffentlicht: (2024)

The Hidden Power of Normalization Layers in Neural Networks: Exponential Capacity Control
von: Than, Khoat
Veröffentlicht: (2025)

RingFormer: Rethinking Recurrent Transformer with Adaptive Level Signals
von: Heo, Jaemu, et al.
Veröffentlicht: (2025)

StateLinFormer: Stateful Training Enhancing Long-term Memory in Navigation
von: Chen, Zhiyuan, et al.
Veröffentlicht: (2026)

Online Decision MetaMorphFormer: A Casual Transformer-Based Reinforcement Learning Framework of Universal Embodied Intelligence
von: Ji, Luo, et al.
Veröffentlicht: (2024)

NN-Former: Rethinking Graph Structure in Neural Architecture Representation
von: Xu, Ruihan, et al.
Veröffentlicht: (2025)

RT-Transformer: The Transformer Block as a Spherical State Estimator
von: Racioppo, Peter
Veröffentlicht: (2026)

Testing Causal Models with Hidden Variables in Polynomial Delay via Conditional Independencies
von: Jeong, Hyunchai, et al.
Veröffentlicht: (2024)

ContiFormer: Continuous-Time Transformer for Irregular Time Series Modeling
von: Chen, Yuqi, et al.
Veröffentlicht: (2024)

StagFormer: Time Staggering Transformer Decoding for RunningLayers In Parallel
von: Cutler, Dylan, et al.
Veröffentlicht: (2025)

Federated Instrumental Variable Analysis via Federated Generalized Method of Moments
von: Geetika, et al.
Veröffentlicht: (2025)

Discovering Hidden Algebraic Structures via Transformers with Rank-Aware Beam GRPO
von: Lee, Jaeha, et al.
Veröffentlicht: (2025)

Neural Breadcrumbs: Membership Inference Attacks on LLMs Through Hidden State and Attention Pattern Analysis
von: Makhija, Disha, et al.
Veröffentlicht: (2025)

ManifoldFormer: Geometric Deep Learning for Neural Dynamics on Riemannian Manifolds
von: Fu, Yihang, et al.
Veröffentlicht: (2025)

Transformer Injectivity & Geometric Robustness - Analytic Margins and Bi-Lipschitz Uniformity of Sequence-Level Hidden States
von: von Strauss, Mikael
Veröffentlicht: (2025)

VecFormer: Towards Efficient and Generalizable Graph Transformer with Graph Token Attention
von: Zhou, Jingbo, et al.
Veröffentlicht: (2026)

ChronoFormer: Time-Aware Transformer Architectures for Structured Clinical Event Modeling
von: Zhang, Yuanyun, et al.
Veröffentlicht: (2025)

Learning with Hidden Factorial Structure
von: Arnal, Charles, et al.
Veröffentlicht: (2024)

Posterior-First Neural PDE Simulation: Inferring Hidden Problem State from a Single Field
von: Wang, Wenshuo, et al.
Veröffentlicht: (2026)

Hidden-State Privacy Has an Empty Middle
von: Bell, Alexander Okezue
Veröffentlicht: (2026)

Transformer-Based Predictive Maintenance for Risk-Aware Instrument Calibration
von: Parthasarathy, Adithya, et al.
Veröffentlicht: (2026)

Context-Former: Stitching via Latent Conditioned Sequence Modeling
von: Zhang, Ziqi, et al.
Veröffentlicht: (2024)

Can Data-Driven Dynamics Reveal Hidden Physics? There Is A Need for Interpretable Neural Operators
von: Gao, Wenhan, et al.
Veröffentlicht: (2025)

OrthoRank: Token Selection via Sink Token Orthogonality for Efficient LLM inference
von: Shin, Seungjun, et al.
Veröffentlicht: (2025)

YuriiFormer: A Suite of Nesterov-Accelerated Transformers
von: Zimin, Aleksandr, et al.
Veröffentlicht: (2026)

AlgoFormer: An Efficient Transformer Framework with Algorithmic Structures
von: Gao, Yihang, et al.
Veröffentlicht: (2024)

RouteFormer: A Transformer-Based Routing Framework for Autonomous Vehicles
von: Youssef, Yazan, et al.
Veröffentlicht: (2025)

Testability of Instrumental Variables in Additive Nonlinear, Non-Constant Effects Models
von: Guo, Xichen, et al.
Veröffentlicht: (2024)

TFWaveFormer: Temporal-Frequency Collaborative Multi-level Wavelet Transformer for Dynamic Link Prediction
von: Feng, Hantong, et al.
Veröffentlicht: (2026)

RingFormer: A Ring-Enhanced Graph Transformer for Organic Solar Cell Property Prediction
von: Ding, Zhihao, et al.
Veröffentlicht: (2024)

From Pixels to Factors: Learning Independently Controllable State Variables for Reinforcement Learning
von: Rodriguez-Sanchez, Rafael, et al.
Veröffentlicht: (2025)

PAIR-Former: Budgeted Relational Multi-Instance Learning for Functional miRNA Target Prediction
von: Yin, Jiaqi, et al.
Veröffentlicht: (2026)

STAR-VAE: Latent Variable Transformers for Scalable and Controllable Molecular Generation
von: Kwon, Bum Chul, et al.
Veröffentlicht: (2025)