Buchumschlag

Quantifying Memory Utilization with Effective State-Size

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Parnichkun, Rom N., Tumma, Neehal, Thomas, Armin W., Moro, Alessandro, An, Qi, Suzuki, Taiji, Yamashita, Atsushi, Poli, Michael, Massaroli, Stefano
Format:	Preprint
Veröffentlicht:	2025
Schlagworte:	Machine Learning
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

STAR: Synthesis of Tailored Architectures
von: Thomas, Armin W., et al.
Veröffentlicht: (2024)

State-Free Inference of State-Space Models: The Transfer Function Approach
von: Parnichkun, Rom N., et al.
Veröffentlicht: (2024)

Preconditioned DeltaNet: Curvature-aware Sequence Modeling for Linear Recurrences
von: Tumma, Neehal, et al.
Veröffentlicht: (2026)

Sliding Window Recurrences for Sequence Models
von: Secrieru, Dragos, et al.
Veröffentlicht: (2025)

Mechanistic Design and Scaling of Hybrid Architectures
von: Poli, Michael, et al.
Veröffentlicht: (2024)

Transformers as Measure-Theoretic Associative Memory: A Statistical Perspective and Minimax Optimality
von: Kawata, Ryotaro, et al.
Veröffentlicht: (2026)

State Space Models are Provably Comparable to Transformers in Dynamic Token Selection
von: Nishikawa, Naoki, et al.
Veröffentlicht: (2024)

Educação Permanente para o aperfeiçoamento do Controle de Infecção Hospitalar: revisão integrativa
von: Aline Massaroli
Veröffentlicht: (2014)

Towards a Unified Analysis of Neural Networks in Nonparametric Instrumental Variable Regression: Optimization and Generalization
von: Chen, Zonghao, et al.
Veröffentlicht: (2025)

Direct Distributional Optimization for Provable Alignment of Diffusion Models
von: Kawata, Ryotaro, et al.
Veröffentlicht: (2025)

Intrinsic Wasserstein Rates for Score-Based Generative Models on Smooth Manifolds
von: Fu, Guoji, et al.
Veröffentlicht: (2026)

Quantifying the Optimization and Generalization Advantages of Graph Neural Networks Over Multilayer Perceptrons
von: Huang, Wei, et al.
Veröffentlicht: (2023)

Competitividade e gap tecnológico – uma análise comparativa entre Brasil e países europeus
von: Tatiana Massaroli Melo
Veröffentlicht: (2017)

Um modelo setorial baseado na abordagem kaleckiana da distribuição setorial funcional da renda e na teoria schumpeteriana da concorrência
von: Tatiana Massaroli Melo
Veröffentlicht: (2016)

An energy landscape-based theoretical framework for understanding the emergence of functions in a living system under the dynamical component interaction
von: Suzuki, Ryunosuke, et al.
Veröffentlicht: (2025)

Direct Density Ratio Optimization: A Statistically Consistent Approach to Aligning Large Language Models
von: Higuchi, Rei, et al.
Veröffentlicht: (2025)

Transformers Learn Nonlinear Features In Context: Nonconvex Mean-field Dynamics on the Attention Landscape
von: Kim, Juno, et al.
Veröffentlicht: (2024)

Deep Two-Way Matrix Reordering for Relational Data Analysis
von: Watanabe, Chihiro, et al.
Veröffentlicht: (2021)

The Mechanism of Weak-to-Strong Generalization: Feature Elicitation from Latent Knowledge
von: Awano, Ryoya, et al.
Veröffentlicht: (2026)

Transformers Provably Solve Parity Efficiently with Chain of Thought
von: Kim, Juno, et al.
Veröffentlicht: (2024)

Mean-field Analysis on Two-layer Neural Networks from a Kernel Perspective
von: Takakura, Shokichi, et al.
Veröffentlicht: (2024)

AutoLL: Automatic Linear Layout of Graphs based on Deep Neural Network
von: Watanabe, Chihiro, et al.
Veröffentlicht: (2021)

Test time training enhances in-context learning of nonlinear functions
von: Kuwataka, Kento, et al.
Veröffentlicht: (2025)

In-Context Learning Is Provably Bayesian Inference: A Generalization Theory for Meta-Learning
von: Wakayama, Tomoya, et al.
Veröffentlicht: (2025)

Approximation and Estimation Ability of Transformers for Sequence-to-Sequence Functions with Infinite Dimensional Input
von: Takakura, Shokichi, et al.
Veröffentlicht: (2023)

Koopman-based generalization bound: New aspect for full-rank weights
von: Hashimoto, Yuka, et al.
Veröffentlicht: (2023)

Moving Object Detection from Moving Camera Using Focus of Expansion Likelihood and Segmentation
von: Ogawa, Masahiro, et al.
Veröffentlicht: (2025)

Effective Treatment Case of Esophagogastric Varices With a To‐and‐Fro Flow State Using Convex Ultrasound Endoscopy
von: Kazunori Nagashima, et al.
Veröffentlicht: (2026)

From Saddle Points Toward Global Minima: A Newton-Type Method on Wasserstein Space
von: Lascu, Razvan-Andrei, et al.
Veröffentlicht: (2026)

Propagation of Chaos for Mean-Field Langevin Dynamics and its Application to Model Ensemble
von: Nitanda, Atsushi, et al.
Veröffentlicht: (2025)

Degrees of Freedom for Linear Attention: Distilling Softmax Attention with Optimal Feature Efficiency
von: Nishikawa, Naoki, et al.
Veröffentlicht: (2025)

Transformers are Minimax Optimal Nonparametric In-Context Learners
von: Kim, Juno, et al.
Veröffentlicht: (2024)

Mamba Can Learn Low-Dimensional Targets In-Context via Test-Time Feature Learning
von: Oh, Junsoo, et al.
Veröffentlicht: (2025)

Hessian-guided Perturbed Wasserstein Gradient Flows for Escaping Saddle Points
von: Yamamoto, Naoya, et al.
Veröffentlicht: (2025)

A note on lenses in arrangements of pairwise intersecting circles in the plane
von: Pinchasi, Rom
Veröffentlicht: (2024)

The Impact of Banking Competition on Interest Rates for Household Consumption Loans in the Euro Area
von: Rom, Alexander
Veröffentlicht: (2024)

El papel de los estudios lingüísticos en la investigación psicosocial: el caso de las pasiones y los sentimientos
von: Rom Harré
Veröffentlicht: (2002)

Rebekka Denz. Bürgerlich, jüdisch, weiblich: Frauen im Centralverein deutscher Staatsbürger jüdischen Glaubens (1918–1938). Jüdische Kulturgeschichte in der Moderne 16. Berlin: Neofelis Verlag, 2021. 392 Seiten, EUR 32, ISBN 978-3-95808-159-8
von: Sharon Rom
Veröffentlicht: (2022)

Hybrid Psychology: The marriage of discourse analysis with neuroscience
von: Rom Harré
Veröffentlicht: (2010)

A Model-Free Method to Quantify Memory Utilization in Neural Point Processes
von: Mijatovic, Gorana, et al.
Veröffentlicht: (2024)