Buchumschlag

On Computational Limits of Modern Hopfield Models: A Fine-Grained Complexity Analysis

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Hu, Jerry Yao-Chieh, Lin, Thomas, Song, Zhao, Liu, Han
Format:	Preprint
Veröffentlicht:	2024
Schlagworte:	Machine Learning Artificial Intelligence
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Uniform Memory Retrieval with Larger Capacity for Modern Hopfield Models
von: Wu, Dennis, et al.
Veröffentlicht: (2024)

Nonparametric Modern Hopfield Models
von: Hu, Jerry Yao-Chieh, et al.
Veröffentlicht: (2024)

Provably Optimal Memory Capacity for Modern Hopfield Models: Transformer-Compatible Dense Associative Memories as Spherical Codes
von: Hu, Jerry Yao-Chieh, et al.
Veröffentlicht: (2024)

Computational Limits of Low-Rank Adaptation (LoRA) Fine-Tuning for Transformer Models
von: Hu, Jerry Yao-Chieh, et al.
Veröffentlicht: (2024)

BiSHop: Bi-Directional Cellular Learning for Tabular Data with Generalized Sparse Modern Hopfield Model
von: Xu, Chenwei, et al.
Veröffentlicht: (2024)

Outlier-Efficient Hopfield Layers for Large Transformer-Based Models
von: Hu, Jerry Yao-Chieh, et al.
Veröffentlicht: (2024)

Attention Mechanism, Max-Affine Partition, and Universal Approximation
von: Liu, Hude, et al.
Veröffentlicht: (2025)

On Statistical Rates and Provably Efficient Criteria of Latent Diffusion Transformers (DiTs)
von: Hu, Jerry Yao-Chieh, et al.
Veröffentlicht: (2024)

A Theoretical Analysis of Discrete Flow Matching Generative Models
von: Su, Maojiang, et al.
Veröffentlicht: (2025)

STanHop: Sparse Tandem Hopfield Model for Memory-Enhanced Time Series Prediction
von: Wu, Dennis, et al.
Veröffentlicht: (2023)

Fundamental Limits of Prompt Tuning Transformers: Universality, Capacity and Efficiency
von: Hu, Jerry Yao-Chieh, et al.
Veröffentlicht: (2024)

Minimalist Softmax Attention Provably Learns Constrained Boolean Functions
von: Hu, Jerry Yao-Chieh, et al.
Veröffentlicht: (2025)

On Computational Limits and Provably Efficient Criteria of Visual Autoregressive Models: A Fine-Grained Complexity Analysis
von: Ke, Yekun, et al.
Veröffentlicht: (2025)

Fine-Grained Iterative Adversarial Attacks with Limited Computation Budget
von: Hou, Zhichao, et al.
Veröffentlicht: (2025)

In-Context Algorithm Emulation in Fixed-Weight Transformers
von: Hu, Jerry Yao-Chieh, et al.
Veröffentlicht: (2025)

Differentially Private Kernel Density Estimation
von: Liu, Erzhi, et al.
Veröffentlicht: (2024)

Transformer Approximations from ReLUs
von: Hu, Jerry Yao-Chieh, et al.
Veröffentlicht: (2026)

On the Role of Hidden States of Modern Hopfield Network in Transformer
von: Masumura, Tsubasa, et al.
Veröffentlicht: (2025)

Geometry-Aware Attention Guidance for Diffusion Models via Modern Hopfield Dynamics
von: Kim, Kwanyoung
Veröffentlicht: (2026)

Universal Approximation with Softmax Attention
von: Hu, Jerry Yao-Chieh, et al.
Veröffentlicht: (2025)

Rectified Lagrangian for Out-of-Distribution Detection in Modern Hopfield Networks
von: Moriai, Ryo, et al.
Veröffentlicht: (2025)

On Differentially Private String Distances
von: Hu, Jerry Yao-Chieh, et al.
Veröffentlicht: (2024)

Fast and Low-Cost Genomic Foundation Models via Outlier Removal
von: Luo, Haozheng, et al.
Veröffentlicht: (2025)

Are Hallucinations Bad Estimations?
von: Liu, Hude, et al.
Veröffentlicht: (2025)

On Flow Matching KL Divergence
von: Su, Maojiang, et al.
Veröffentlicht: (2025)

Modern Hopfield Networks Require Chain-of-Thought to Solve $\mathsf{NC}^1$-Hard Problems
von: Cao, Yang, et al.
Veröffentlicht: (2024)

On Fine-Grained I/O Complexity of Attention Backward Passes
von: Li, Xiaoyu, et al.
Veröffentlicht: (2024)

Balancing Fidelity and Diversity in Diffusion Models via Symmetric Attention Decomposition: Hopfield Perspective
von: Cho, Hyunmin, et al.
Veröffentlicht: (2026)

The Computational Limits of State-Space Models and Mamba via the Lens of Circuit Complexity
von: Chen, Yifang, et al.
Veröffentlicht: (2024)

POLO: Preference-Guided Multi-Turn Reinforcement Learning for Lead Optimization
von: Wang, Ziqing, et al.
Veröffentlicht: (2025)

Fine-Grained Interpretation of Political Opinions in Large Language Models
von: Hu, Jingyu, et al.
Veröffentlicht: (2025)

RainSeer: Fine-Grained Rainfall Reconstruction via Physics-Guided Modeling
von: Chen, Lin, et al.
Veröffentlicht: (2025)

Efficient Inference Using Large Language Models with Limited Human Data: Fine-Tuning then Rectification
von: Wang, Lei, et al.
Veröffentlicht: (2025)

Towards Fine-Grained and Verifiable Concept Bottleneck Models
von: Fang, Yingying, et al.
Veröffentlicht: (2026)

HoReN: Normalized Hopfield Retrieval for Large-Scale Sequential Model Editing
von: Fang, Yuan, et al.
Veröffentlicht: (2026)

On Statistical Rates of Conditional Diffusion Transformers: Approximation, Estimation and Minimax Optimality
von: Hu, Jerry Yao-Chieh, et al.
Veröffentlicht: (2024)

Increasing Model Capacity for Free: A Simple Strategy for Parameter Efficient Fine-tuning
von: Song, Haobo, et al.
Veröffentlicht: (2024)

FEAT: A Linear-Complexity Foundation Model for Extremely Large Structured Data
von: Song, Zhenghang, et al.
Veröffentlicht: (2026)

Long Chain-of-Thought Compression via Fine-Grained Group Policy Optimization
von: Han, Xinchen, et al.
Veröffentlicht: (2026)

From Incomplete Coarse-Grained to Complete Fine-Grained: A Two-Stage Framework for Spatiotemporal Data Reconstruction
von: Sun, Ziyu, et al.
Veröffentlicht: (2024)