Power law attention biases for molecular transformers
Fuente:
arXiv
Enregistré dans:
| Auteurs principaux: | Shen, Jay, Tang, Yifeng, Ferguson, Andrew |
|---|---|
| Format: | Preprint |
| Publié: |
2025
|
| Sujets: | |
| Accès en ligne: | |
| Tags: |
Ajouter un tag
Pas de tags, Soyez le premier à ajouter un tag!
|
Documents similaires
A standard transformer and attention with linear biases for molecular conformer generation
par: Gurev, Viatcheslav, et autres
Publié: (2025)
par: Gurev, Viatcheslav, et autres
Publié: (2025)
Uncertainty-biased molecular dynamics for learning uniformly accurate interatomic potentials
par: Zaverkin, Viktor, et autres
Publié: (2023)
par: Zaverkin, Viktor, et autres
Publié: (2023)
Orbital distortion and parabolic channel effects transform minima in molecular ionization probabilities into maxima
par: Wahyutama, Imam S., et autres
Publié: (2025)
par: Wahyutama, Imam S., et autres
Publié: (2025)
Relational inductive biases on attention mechanisms
par: Mijangos, Víctor, et autres
Publié: (2025)
par: Mijangos, Víctor, et autres
Publié: (2025)
Methods for non-variational heuristic quantum optimisation
par: Ferguson, Stuart, et autres
Publié: (2026)
par: Ferguson, Stuart, et autres
Publié: (2026)
Exploiting biased noise in variational quantum models
par: van Rossum, Connor, et autres
Publié: (2025)
par: van Rossum, Connor, et autres
Publié: (2025)
New intelligent empowerment for digital transformation
par: Yifeng, Peng, et autres
Publié: (2024)
par: Yifeng, Peng, et autres
Publié: (2024)
Learning spatially structured open quantum dynamics with regional-attention transformers
par: Du, Dounan, et autres
Publié: (2025)
par: Du, Dounan, et autres
Publié: (2025)
A new kind of automorphic form and a proof of the essential transformation laws
par: Henry, Michael Andrew
Publié: (2025)
par: Henry, Michael Andrew
Publié: (2025)
Multi-scale cross-attention transformer encoder for event classification
par: Hammad, A., et autres
Publié: (2023)
par: Hammad, A., et autres
Publié: (2023)
Semi-Analytic Solutions to the Noh Problem with a Black Box Equation of State
par: Gerberding, Seth, et autres
Publié: (2025)
par: Gerberding, Seth, et autres
Publié: (2025)
Overcoming the chemical complexity bottleneck in on-the-fly machine learned molecular dynamics simulations
par: Timmerman, Lucas R., et autres
Publié: (2024)
par: Timmerman, Lucas R., et autres
Publié: (2024)
Dynamics of discrete spacetimes with Quantum-enhanced Markov Chain Monte Carlo
par: Ferguson, Stuart, et autres
Publié: (2025)
par: Ferguson, Stuart, et autres
Publié: (2025)
Enhancing compact convolutional transformers with super attention
par: Leandre, Simpenzwe Honore, et autres
Publié: (2025)
par: Leandre, Simpenzwe Honore, et autres
Publié: (2025)
Fast Laplace transforms on quantum computers
par: Zylberman, Julien
Publié: (2024)
par: Zylberman, Julien
Publié: (2024)
Coarse-Grained Dynamics with Spatial Disorder and Non-Markovian Memory
par: Liu, Chuyi, et autres
Publié: (2026)
par: Liu, Chuyi, et autres
Publié: (2026)
Scaling law for Kasha's rule in photoexcited molecular aggregates
par: Holzinger, Raphael, et autres
Publié: (2023)
par: Holzinger, Raphael, et autres
Publié: (2023)
Neural canonical transformations for vibrational spectra of molecules
par: Zhang, Qi, et autres
Publié: (2024)
par: Zhang, Qi, et autres
Publié: (2024)
Data-driven construction of a generalized kinetic collision operator from molecular dynamics
par: Zhao, Yue, et autres
Publié: (2025)
par: Zhao, Yue, et autres
Publié: (2025)
A distributional simplicity bias in the learning dynamics of transformers
par: Rende, Riccardo, et autres
Publié: (2024)
par: Rende, Riccardo, et autres
Publié: (2024)
A novel quantum circuit for the quantum Fourier transform
par: Romero, Juan M., et autres
Publié: (2025)
par: Romero, Juan M., et autres
Publié: (2025)
Self-attention enabled quantum path analysis of high-harmonic generation in solids
par: Zhao, Cong, et autres
Publié: (2025)
par: Zhao, Cong, et autres
Publié: (2025)
An attention economy model of co-evolution between content quality and audience selectivity
par: Chujyo, Masaki, et autres
Publié: (2026)
par: Chujyo, Masaki, et autres
Publié: (2026)
Are neural scaling laws leading quantum chemistry astray?
par: Lee, Siwoo, et autres
Publié: (2025)
par: Lee, Siwoo, et autres
Publié: (2025)
Insect-inspired modular architectures as inductive biases for reinforcement learning
par: Staples, Anne E.
Publié: (2026)
par: Staples, Anne E.
Publié: (2026)
Polynomial propagators for classical molecular dynamics
par: Kondov, Ivan
Publié: (2023)
par: Kondov, Ivan
Publié: (2023)
Study of scaling laws in language families
par: Santos, Maelyson R. F., et autres
Publié: (2025)
par: Santos, Maelyson R. F., et autres
Publié: (2025)
MDDM: A Molecular Dynamics Diffusion Model to Predict Particle Self-Assembly
par: Ferguson, Kevin, et autres
Publié: (2025)
par: Ferguson, Kevin, et autres
Publié: (2025)
Modeling biases in binary decision-making within the generalized nonlinear q-voter model
par: Doniec, Maciej, et autres
Publié: (2025)
par: Doniec, Maciej, et autres
Publié: (2025)
Gauge transformation for pulse propagation and time ordered integrals
par: Abbout, Adel
Publié: (2026)
par: Abbout, Adel
Publié: (2026)
Universal statistical laws governing culinary design
par: Bagler, Ganesh, et autres
Publié: (2026)
par: Bagler, Ganesh, et autres
Publié: (2026)
Multi-task learning for molecular electronic structure approaching coupled-cluster accuracy
par: Tang, Hao, et autres
Publié: (2024)
par: Tang, Hao, et autres
Publié: (2024)
The benefits and biases of seeing the world's cities through marathons
par: Renninger, Andrew
Publié: (2026)
par: Renninger, Andrew
Publié: (2026)
Generalized mixed variable-pullback scheme with non-ideal Ohm's law for electromagnetic gyrokinetic simulations
par: Lu, Zhixin, et autres
Publié: (2025)
par: Lu, Zhixin, et autres
Publié: (2025)
Combining transition path sampling with data-driven collective variables through a reactivity-biased shooting algorithm
par: Zhang, Jintu, et autres
Publié: (2024)
par: Zhang, Jintu, et autres
Publié: (2024)
Revealing the molecular structures of a-Al2O3(0001)-water interface by machine learning based computational vibrational spectroscopy
par: Du, Xianglong, et autres
Publié: (2024)
par: Du, Xianglong, et autres
Publié: (2024)
Recognizing and generating knotted molecular structures by machine learning
par: Zhang, Zhiyu, et autres
Publié: (2025)
par: Zhang, Zhiyu, et autres
Publié: (2025)
Fourier's law breakdown for the planar-rotor chain with long-range coupling
par: Lima, Henrique Santos, et autres
Publié: (2024)
par: Lima, Henrique Santos, et autres
Publié: (2024)
Parallel athermal quasistatic deformation stepping of molecular systems
par: Reihn, Maximilian, et autres
Publié: (2025)
par: Reihn, Maximilian, et autres
Publié: (2025)
The transformative capability of quantum-accurate machine learning interatomic potentials
par: Correa, Alfredo A., et autres
Publié: (2025)
par: Correa, Alfredo A., et autres
Publié: (2025)
Documents similaires
-
A standard transformer and attention with linear biases for molecular conformer generation
par: Gurev, Viatcheslav, et autres
Publié: (2025) -
Uncertainty-biased molecular dynamics for learning uniformly accurate interatomic potentials
par: Zaverkin, Viktor, et autres
Publié: (2023) -
Orbital distortion and parabolic channel effects transform minima in molecular ionization probabilities into maxima
par: Wahyutama, Imam S., et autres
Publié: (2025) -
Relational inductive biases on attention mechanisms
par: Mijangos, Víctor, et autres
Publié: (2025) -
Methods for non-variational heuristic quantum optimisation
par: Ferguson, Stuart, et autres
Publié: (2026)