Attention Is Not Retention: The Orthogonality Constraint in Infinite-Context Architectures
Fuente:
arXiv
Gespeichert in:
| Hauptverfasser: | Zahn, Oliver, Beton, Matt, Chana, Simran |
|---|---|
| Format: | Preprint |
| Veröffentlicht: |
2026
|
| Schlagworte: | |
| Online-Zugang: | |
| Tags: |
Tag hinzufügen
Keine Tags, Fügen Sie den ersten Tag hinzu!
|
Ähnliche Einträge
ANML: Attribution-Native Machine Learning with Guaranteed Robustness
von: Zahn, Oliver, et al.
Veröffentlicht: (2026)
von: Zahn, Oliver, et al.
Veröffentlicht: (2026)
Attention when you need
von: Boominathan, Lokesh, et al.
Veröffentlicht: (2025)
von: Boominathan, Lokesh, et al.
Veröffentlicht: (2025)
Exploring a Cognitive Architecture for Learning Arithmetic Equations
von: Gawin, Cole
Veröffentlicht: (2024)
von: Gawin, Cole
Veröffentlicht: (2024)
Shifting Attention to You: Personalized Brain-Inspired AI Models
von: Zhao, Stephen Chong, et al.
Veröffentlicht: (2025)
von: Zhao, Stephen Chong, et al.
Veröffentlicht: (2025)
Learning Discrete Successor Transitions in Continuous Attractor Networks: Emergence, Limits, and Topological Constraints
von: Brownell, Daniel
Veröffentlicht: (2026)
von: Brownell, Daniel
Veröffentlicht: (2026)
Attention acts to suppress goal-based conflict under high competition
von: Claflin, Omar
Veröffentlicht: (2016)
von: Claflin, Omar
Veröffentlicht: (2016)
Inhibitory Cross-Talk Enables Functional Lateralization in Attention-Coupled Latent Memory
von: Jeong, Hong
Veröffentlicht: (2026)
von: Jeong, Hong
Veröffentlicht: (2026)
Cognitive Mirrors: Exploring the Diverse Functional Roles of Attention Heads in LLM Reasoning
von: Ma, Xueqi, et al.
Veröffentlicht: (2025)
von: Ma, Xueqi, et al.
Veröffentlicht: (2025)
The DIME Architecture: A Unified Operational Algorithm for Neural Representation, Dynamics, Control and Integration
von: Vladu, Ionel Cristian, et al.
Veröffentlicht: (2026)
von: Vladu, Ionel Cristian, et al.
Veröffentlicht: (2026)
A Biologically Interpretable Cognitive Architecture for Online Structuring of Episodic Memories into Cognitive Maps
von: Dzhivelikian, E. A., et al.
Veröffentlicht: (2025)
von: Dzhivelikian, E. A., et al.
Veröffentlicht: (2025)
Reconciling Shared versus Context-Specific Information in a Neural Network Model of Latent Causes
von: Lu, Qihong, et al.
Veröffentlicht: (2023)
von: Lu, Qihong, et al.
Veröffentlicht: (2023)
Human-inspired Episodic Memory for Infinite Context LLMs
von: Fountas, Zafeirios, et al.
Veröffentlicht: (2024)
von: Fountas, Zafeirios, et al.
Veröffentlicht: (2024)
Spatiotemporal Learning of Brain Dynamics from fMRI Using Frequency-Specific Multi-Band Attention for Cognitive and Psychiatric Applications
von: Bae, Sangyoon, et al.
Veröffentlicht: (2025)
von: Bae, Sangyoon, et al.
Veröffentlicht: (2025)
A Miniature Brain Transformer: Thalamic Gating, Hippocampal Lateralization, Amygdaloid Salience, and Prefrontal Working Memory in Attention-Coupled Latent Memory
von: Jeong, Hong
Veröffentlicht: (2026)
von: Jeong, Hong
Veröffentlicht: (2026)
Roles of LLMs in the Overall Mental Architecture
von: Sun, Ron
Veröffentlicht: (2024)
von: Sun, Ron
Veröffentlicht: (2024)
An Overlooked Role of Context-Sensitive Dendrites
von: Raza, Mohsin, et al.
Veröffentlicht: (2024)
von: Raza, Mohsin, et al.
Veröffentlicht: (2024)
An Inference-Based Architecture for Intent and Affordance Saturation in Decision-Making
von: Ilboudo, Wendyam Eric Lionel, et al.
Veröffentlicht: (2025)
von: Ilboudo, Wendyam Eric Lionel, et al.
Veröffentlicht: (2025)
Fusion Learning from Dynamic Functional Connectivity: Combining the Amplitude and Phase of fMRI Signals to Identify Brain Disorders
von: Hu, Jinlong, et al.
Veröffentlicht: (2026)
von: Hu, Jinlong, et al.
Veröffentlicht: (2026)
Why the Unfinished Keeps Returning: Canxianization and the Dynamics of Conscious Priority
von: Cai, Hengjin, et al.
Veröffentlicht: (2026)
von: Cai, Hengjin, et al.
Veröffentlicht: (2026)
Features have life history. And we should care
von: Stecher, Philipp, et al.
Veröffentlicht: (2026)
von: Stecher, Philipp, et al.
Veröffentlicht: (2026)
Retina gap junctions support the robust perception by warping neural representational geometries along the visual hierarchy
von: Yue, Yang, et al.
Veröffentlicht: (2026)
von: Yue, Yang, et al.
Veröffentlicht: (2026)
Consciousness as Uncommon Self-Knowledge: A Synergistic Information Framework
von: Tallam, Krti
Veröffentlicht: (2026)
von: Tallam, Krti
Veröffentlicht: (2026)
How Much is Brain Data Worth for Machine Learning?
von: Lewis, Lane, et al.
Veröffentlicht: (2026)
von: Lewis, Lane, et al.
Veröffentlicht: (2026)
Exploring Human Behavior During Abstract Rule Inference and Problem Solving with the Cognitive Abstraction and Reasoning Corpus
von: Ahn, Caroline, et al.
Veröffentlicht: (2026)
von: Ahn, Caroline, et al.
Veröffentlicht: (2026)
A Benchmark Analysis of Graph and Non-Graph Methods for Caenorhabditis Elegans Neuron Classification
von: Lu, Jingqi, et al.
Veröffentlicht: (2026)
von: Lu, Jingqi, et al.
Veröffentlicht: (2026)
Large Language Models as Simulative Agents for Neurodivergent Adult Psychometric Profiles
von: Chiappone, Francesco, et al.
Veröffentlicht: (2026)
von: Chiappone, Francesco, et al.
Veröffentlicht: (2026)
Dissociating spatial frequency reliance from adversarial robustness advantages in neurally guided deep convolutional neural networks
von: Shao, Zhenan, et al.
Veröffentlicht: (2026)
von: Shao, Zhenan, et al.
Veröffentlicht: (2026)
Misalignment Between Backpropagation and the Hierarchy of Brain Responses to Images
von: Raugel, Joséphine, et al.
Veröffentlicht: (2026)
von: Raugel, Joséphine, et al.
Veröffentlicht: (2026)
CTM-AI: A Blueprint for General AI Inspired by a Model of Consciousness
von: Yu, Haofei, et al.
Veröffentlicht: (2026)
von: Yu, Haofei, et al.
Veröffentlicht: (2026)
The Cartesian Cut in Agentic AI
von: Sainburg, Tim, et al.
Veröffentlicht: (2026)
von: Sainburg, Tim, et al.
Veröffentlicht: (2026)
BrainVista: Modeling Naturalistic Brain Dynamics as Multimodal Next-Token Prediction
von: Yin, Xuanhua, et al.
Veröffentlicht: (2026)
von: Yin, Xuanhua, et al.
Veröffentlicht: (2026)
OmniMouse: Scaling properties of multi-modal, multi-task Brain Models on 150B Neural Tokens
von: Willeke, Konstantin F., et al.
Veröffentlicht: (2026)
von: Willeke, Konstantin F., et al.
Veröffentlicht: (2026)
Simulating Human Cognition: Heartbeat-Driven Autonomous Thinking Activity Scheduling for LLM-based AI systems
von: Su, Hong
Veröffentlicht: (2026)
von: Su, Hong
Veröffentlicht: (2026)
Bridging scalp and intracranial EEG in BCI via pretrained neural representations and geometric constraint embedding
von: Dong, Yihang, et al.
Veröffentlicht: (2026)
von: Dong, Yihang, et al.
Veröffentlicht: (2026)
From Clever Hans to Scientific Discovery: Interpreting EEG Foundational Transformers with LRP
von: Bexten, Justus Meyer zu, et al.
Veröffentlicht: (2026)
von: Bexten, Justus Meyer zu, et al.
Veröffentlicht: (2026)
The Rise and Fall of $G$ in AGI
von: Krakauer, David C.
Veröffentlicht: (2026)
von: Krakauer, David C.
Veröffentlicht: (2026)
"Just in Time" World Modeling Supports Human Planning and Reasoning
von: Chen, Tony, et al.
Veröffentlicht: (2026)
von: Chen, Tony, et al.
Veröffentlicht: (2026)
From Theory of Mind to Theory of Environment: Counterfactual Simulation of Latent Environmental Dynamics
von: Uchiyama, Ryutaro
Veröffentlicht: (2026)
von: Uchiyama, Ryutaro
Veröffentlicht: (2026)
Can we automatize scientific discovery in the cognitive sciences?
von: Jagadish, Akshay K., et al.
Veröffentlicht: (2026)
von: Jagadish, Akshay K., et al.
Veröffentlicht: (2026)
What does a system modify when it modifies itself?
von: Koch, Florentin
Veröffentlicht: (2026)
von: Koch, Florentin
Veröffentlicht: (2026)
Ähnliche Einträge
-
ANML: Attribution-Native Machine Learning with Guaranteed Robustness
von: Zahn, Oliver, et al.
Veröffentlicht: (2026) -
Attention when you need
von: Boominathan, Lokesh, et al.
Veröffentlicht: (2025) -
Exploring a Cognitive Architecture for Learning Arithmetic Equations
von: Gawin, Cole
Veröffentlicht: (2024) -
Shifting Attention to You: Personalized Brain-Inspired AI Models
von: Zhao, Stephen Chong, et al.
Veröffentlicht: (2025) -
Learning Discrete Successor Transitions in Continuous Attractor Networks: Emergence, Limits, and Topological Constraints
von: Brownell, Daniel
Veröffentlicht: (2026)