Buchumschlag

Are queries and keys always relevant? A case study on Transformer wave functions

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Rende, Riccardo, Viteritti, Luciano Loris
Format:	Preprint
Veröffentlicht:	2024
Schlagworte:	Disordered Systems and Neural Networks Computation and Language Computational Physics
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Approaching the Thermodynamic Limit with Neural-Network Quantum States
von: Viteritti, Luciano Loris, et al.
Veröffentlicht: (2026)

Fine-tuning Neural Network Quantum States
von: Rende, Riccardo, et al.
Veröffentlicht: (2024)

Transformer Wave Function for two dimensional frustrated magnets: emergence of a Spin-Liquid Phase in the Shastry-Sutherland Model
von: Viteritti, Luciano Loris, et al.
Veröffentlicht: (2023)

Transformer Neural-Network Quantum States for lattice models of spins and fermions: Application to the Ancilla Layer Model
von: Rende, Riccardo, et al.
Veröffentlicht: (2026)

A simple linear algebra identity to optimize Large-Scale Neural Network Quantum States
von: Rende, Riccardo, et al.
Veröffentlicht: (2023)

Foundation Neural-Networks Quantum States as a Unified Ansatz for Multiple Hamiltonians
von: Rende, Riccardo, et al.
Veröffentlicht: (2025)

Beyond Variational Bias: Resolving Intertwined Orders in the Hubbard Model
von: Viteritti, Luciano Loris, et al.
Veröffentlicht: (2026)

Quantum Spin Glass in the Two-Dimensional Disordered Heisenberg Model via Foundation Neural-Network Quantum States
von: Viteritti, Luciano Loris, et al.
Veröffentlicht: (2025)

Mapping of attention mechanisms to a generalized Potts model
von: Rende, Riccardo, et al.
Veröffentlicht: (2023)

Low-resolution descriptions of model neural activity reveal hidden features and underlying system properties
von: Aldrigo, Riccardo, et al.
Veröffentlicht: (2024)

Quantum-inspired Embeddings Projection and Similarity Metrics for Representation Learning
von: Kankeu, Ivan, et al.
Veröffentlicht: (2025)

Robustness of the Random Language Model
von: Lalegani, Fatemeh, et al.
Veröffentlicht: (2023)

The QISG suite: high-performance codes for studying Quantum Ising Spin Glasses
von: Bernaschi, Massimo, et al.
Veröffentlicht: (2024)

Chess variation entropy and engine relevance for humans
von: Barthelemy, Marc
Veröffentlicht: (2025)

Full transmission of vectorial waves through 3D multiple-scattering media
von: Lin, Ho-Chun, et al.
Veröffentlicht: (2024)

Variational Monte Carlo with Large Patched Transformers
von: Sprague, Kyle, et al.
Veröffentlicht: (2023)

DDNet: A Unified Physics-Informed Deep Learning Framework for Semiconductor Device Modeling
von: Riganti, Roberto, et al.
Veröffentlicht: (2025)

Neural network distillation of orbital dependent density functional theory
von: Medvidović, Matija, et al.
Veröffentlicht: (2024)

Deep Learning Methods for Colloidal Silver Nanoparticle Concentration and Size Distribution Determination from UV-Vis Extinction Spectra
von: Klinavičius, Tomas, et al.
Veröffentlicht: (2024)

Renormalization group of topological scattering networks
von: Zhang, Zhe, et al.
Veröffentlicht: (2024)

Machine Learning Interatomic Potentials with Keras API
von: Rili, James Paolo
Veröffentlicht: (2024)

Graph-based Descriptors for Condensed Matter
von: Wang, An, et al.
Veröffentlicht: (2024)

Solving combinatorial optimization problems through stochastic Landau-Lifshitz-Gilbert dynamical systems
von: Chen, Dairong, et al.
Veröffentlicht: (2024)

The dimensionality of the Hopfield model
von: Erazo, Cristopher, et al.
Veröffentlicht: (2026)

Mean-squared Energy Difference for Exploring Potential Energy Landscapes of Supercooled Liquids
von: Zhang, Dianmo, et al.
Veröffentlicht: (2025)

Construction of Machine-Learning Interatomic Potential Under Heat Flux Regularization and Its Application to Power Spectrum Analysis for Silver Chalcogenides
von: Shimamura, Kohei, et al.
Veröffentlicht: (2022)

Algorithm to generate hierarchical structure of desiccation crack patterns
von: Tarasevich, Yuri Yu., et al.
Veröffentlicht: (2025)

Unsupervised and probabilistic learning with Contrastive Local Learning Networks: The Restricted Kirchhoff Machine
von: Guzman, Marcelo, et al.
Veröffentlicht: (2025)

Optimizing p-spin models through hypergraph neural networks and deep reinforcement learning
von: Zeng, Li, et al.
Veröffentlicht: (2026)

Statistical physics for artificial neural networks
von: Pei, Zongrui
Veröffentlicht: (2025)

Design Principles for Realizable Discrete Surface Embeddings in Physical Systems
von: Kim, Kyungeun, et al.
Veröffentlicht: (2025)

Machine learning of (1+1)-dimensional directed percolation based on raw and shuffled configurations
von: Jianmin, Shen, et al.
Veröffentlicht: (2023)

Convolutional transformer wave functions
von: Chen, Ao, et al.
Veröffentlicht: (2025)

A numerical study of wave-function and matrix-element statistics in the Anderson model of localization
von: Uski, Ville, et al.
Veröffentlicht: (1998)

Towards a theory of how the structure of language is acquired by deep neural networks
von: Cagnetta, Francesco, et al.
Veröffentlicht: (2024)

Synaptic Theory of Chunking in Working Memory
von: Zhong, Weishun, et al.
Veröffentlicht: (2024)

Fast Analysis of the OpenAI O1-Preview Model in Solving Random K-SAT Problem: Does the LLM Solve the Problem Itself or Call an External SAT Solver?
von: Marino, Raffaele
Veröffentlicht: (2024)

Impact of ChatGPT on the writing style of condensed matter physicists
von: Xu, Shaojun, et al.
Veröffentlicht: (2024)

On the Emergence of Linear Analogies in Word Embeddings
von: Korchinski, Daniel J., et al.
Veröffentlicht: (2025)

Deep networks learn to parse uniform-depth context-free languages from local statistics
von: Parley, Jack T., et al.
Veröffentlicht: (2026)