Buchumschlag

Exploring the Global-to-Local Attention Scheme in Graph Transformers: An Empirical Study

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Wu, Gang, Wang, Zhengwei
Format:	Preprint
Veröffentlicht:	2025
Schlagworte:	Machine Learning Artificial Intelligence
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

VecFormer: Towards Efficient and Generalizable Graph Transformer with Graph Token Attention
von: Zhou, Jingbo, et al.
Veröffentlicht: (2026)

Scaling Graph Transformers: A Comparative Study of Sparse and Dense Attention
von: Dimitrov, Leon
Veröffentlicht: (2025)

Bridging Local and Global Knowledge via Transformer in Board Games
von: Ju, Yan-Ru, et al.
Veröffentlicht: (2024)

Towards Mechanistic Interpretability of Graph Transformers via Attention Graphs
von: El, Batu, et al.
Veröffentlicht: (2025)

Graph Convolutions Enrich the Self-Attention in Transformers!
von: Choi, Jeongwhan, et al.
Veröffentlicht: (2023)

Less is More: on the Over-Globalizing Problem in Graph Transformers
von: Xing, Yujie, et al.
Veröffentlicht: (2024)

Hybrid Focal and Full-Range Attention Based Graph Transformers
von: Zhu, Minhong, et al.
Veröffentlicht: (2023)

Neighbourhood Transformer: Switchable Attention for Monophily-Aware Graph Learning
von: Luo, Yi, et al.
Veröffentlicht: (2026)

k-Maximum Inner Product Attention for Graph Transformers and the Expressive Power of GraphGPS
von: De Schouwer, Jonas, et al.
Veröffentlicht: (2026)

Graph Dimension Attention Networks for Enterprise Credit Assessment
von: Wei, Shaopeng, et al.
Veröffentlicht: (2024)

CVTGAD: Simplified Transformer with Cross-View Attention for Unsupervised Graph-level Anomaly Detection
von: Li, Jindong, et al.
Veröffentlicht: (2024)

Spacetime $E(n)$-Transformer: Equivariant Attention for Spatio-temporal Graphs
von: Charles, Sergio G.
Veröffentlicht: (2024)

Attention Dispersion in Dynamic Graph Transformers: Diagnosis and a Transferable Fix
von: Zhang, Jinhao, et al.
Veröffentlicht: (2026)

Cardinality-Preserving Attention Channels for Graph Transformers in Molecular Property Prediction
von: Gupta, Abhijit
Veröffentlicht: (2026)

In-Context Learning in Linear vs. Quadratic Attention Models: An Empirical Study on Regression Tasks
von: Goel, Ayush, et al.
Veröffentlicht: (2026)

LGRPool: Hierarchical Graph Pooling Via Local-Global Regularisation
von: Noravesh, Farshad, et al.
Veröffentlicht: (2025)

Exploring the Efficacy of Federated-Continual Learning Nodes with Attention-Based Classifier for Robust Web Phishing Detection: An Empirical Investigation
von: M, Jesher Joshua, et al.
Veröffentlicht: (2024)

B-TGAT: A Bi-directional Temporal Graph Attention Transformer for Clustering Multivariate Spatiotemporal Data
von: Nji, Francis Ndikum, et al.
Veröffentlicht: (2025)

Spatial-temporal Graph Convolutional Networks with Diversified Transformation for Dynamic Graph Representation Learning
von: Wang, Ling, et al.
Veröffentlicht: (2024)

Graph Diffusion Transformers are In-Context Molecular Designers
von: Liu, Gang, et al.
Veröffentlicht: (2025)

DuetGraph: Coarse-to-Fine Knowledge Graph Reasoning with Dual-Pathway Global-Local Fusion
von: Li, Jin, et al.
Veröffentlicht: (2025)

LocalGCL: Local-aware Contrastive Learning for Graphs
von: Jiang, Haojun, et al.
Veröffentlicht: (2024)

Global and Local Topology-Aware Attention with Persistent Homology and Euler Biases for Time-Series Forecasting
von: Faghihi, Usef, et al.
Veröffentlicht: (2026)

An Empirical Study of Realized GNN Expressiveness
von: Wang, Yanbo, et al.
Veröffentlicht: (2023)

DGTN: Graph-Enhanced Transformer with Diffusive Attention Gating Mechanism for Enzyme DDG Prediction
von: Lin, Abigail
Veröffentlicht: (2025)

YZS-model: A Predictive Model for Organic Drug Solubility Based on Graph Convolutional Networks and Transformer-Attention
von: Wang, Chenxu, et al.
Veröffentlicht: (2024)

Nexusformer: Nonlinear Attention Expansion for Stable and Inheritable Transformer Scaling
von: Zhao, Weijie, et al.
Veröffentlicht: (2026)

A Model-Agnostic Graph Neural Network for Integrating Local and Global Information
von: Zhou, Wenzhuo, et al.
Veröffentlicht: (2023)

Multi-Level Temporal Graph Networks with Local-Global Fusion for Industrial Fault Diagnosis
von: Aryal, Bibek, et al.
Veröffentlicht: (2026)

Supercharging Graph Transformers with Advective Diffusion
von: Wu, Qitian, et al.
Veröffentlicht: (2023)

Enhanced Graph Transformer with Serialized Graph Tokens
von: Wang, Ruixiang, et al.
Veröffentlicht: (2026)

Integrating Locality-Aware Attention with Transformers for General Geometry PDEs
von: Koh, Minsu, et al.
Veröffentlicht: (2025)

Reasoning Language Model Inference Serving Unveiled: An Empirical Study
von: Li, Qi, et al.
Veröffentlicht: (2025)

Local Linear Attention: An Optimal Interpolation of Linear and Softmax Attention For Test-Time Regression
von: Zuo, Yifei, et al.
Veröffentlicht: (2025)

The Bayesian Geometry of Transformer Attention
von: Agarwal, Naman, et al.
Veröffentlicht: (2025)

Time-Transformer: Integrating Local and Global Features for Better Time Series Generation (Extended Version)
von: Liu, Yuansan, et al.
Veröffentlicht: (2023)

GTHNA: Local-global Graph Transformer with Memory Reconstruction for Holistic Node Anomaly Evaluation
von: Li, Mingkang, et al.
Veröffentlicht: (2025)

Graph Propagation Transformer for Graph Representation Learning
von: Chen, Zhe, et al.
Veröffentlicht: (2023)

GSA-Forecaster: Forecasting Graph-Based Time-Dependent Data with Graph Sequence Attention
von: Li, Yang, et al.
Veröffentlicht: (2021)

QSpec: Speculative Decoding with Complementary Quantization Schemes
von: Zhao, Juntao, et al.
Veröffentlicht: (2024)