Buchumschlag

Mamba Modulation: On the Length Generalization of Mamba

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Lu, Peng, Huang, Jerry, Zeng, Qiuhao, Wang, Xinyu, Chen, Boxing, Langlais, Philippe, Cui, Yufei
Format:	Preprint
Veröffentlicht:	2025
Schlagworte:	Machine Learning Artificial Intelligence
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

ZETA: Leveraging Z-order Curves for Efficient Top-k Attention
von: Zeng, Qiuhao, et al.
Veröffentlicht: (2025)

Calibrated Language Models and How to Find Them with Label Smoothing
von: Huang, Jerry, et al.
Veröffentlicht: (2025)

DeciMamba: Exploring the Length Extrapolation Potential of Mamba
von: Ben-Kish, Assaf, et al.
Veröffentlicht: (2024)

PoTPTQ: A Two-step Power-of-Two Post-training for LLMs
von: Wang, Xinyu, et al.
Veröffentlicht: (2025)

Toward Better Generalization in Few-Shot Learning through the Meta-Component Combination
von: Zeng, Qiuhao
Veröffentlicht: (2025)

InfoMamba: An Attention-Free Hybrid Mamba-Transformer Model
von: Wang, Youjin, et al.
Veröffentlicht: (2026)

GRPO-$λ$: Credit Assignment improves LLM Reasoning
von: Parthasarathi, Prasanna, et al.
Veröffentlicht: (2025)

DiffuMamba: High-Throughput Diffusion LMs with Mamba Backbone
von: Singh, Vaibhav, et al.
Veröffentlicht: (2025)

ms-Mamba: Multi-scale Mamba for Time-Series Forecasting
von: Karadag, Yusuf Meric, et al.
Veröffentlicht: (2025)

eMamba: Efficient Acceleration Framework for Mamba Models in Edge Computing
von: Kim, Jiyong, et al.
Veröffentlicht: (2025)

MambaSL: Exploring Single-Layer Mamba for Time Series Classification
von: Jung, Yoo-Min, et al.
Veröffentlicht: (2026)

BioMamba: Leveraging Spectro-Temporal Embedding in Bidirectional Mamba for Enhanced Biosignal Classification
von: Qian, Jian, et al.
Veröffentlicht: (2025)

On Evaluation Protocols for Data Augmentation in a Limited Data Scenario
von: Piedboeuf, Frédéric, et al.
Veröffentlicht: (2024)

MambaNet: Mamba-assisted Channel Estimation Neural Network With Attention Mechanism
von: Luan, Dianxin, et al.
Veröffentlicht: (2026)

Decision Mamba Architectures
von: Correia, André, et al.
Veröffentlicht: (2024)

A Survey of Mamba
von: Qu, Haohao, et al.
Veröffentlicht: (2024)

MedMamba: Recasting Mamba for Medical Time Series Classification
von: He, ZhengXiao, et al.
Veröffentlicht: (2026)

MambaQuant: Quantizing the Mamba Family with Variance Aligned Rotation Methods
von: Xu, Zukang, et al.
Veröffentlicht: (2025)

Nested-ReFT: Efficient Reinforcement Learning for Large Language Model Fine-Tuning via Off-Policy Rollouts
von: Heuillet, Maxime, et al.
Veröffentlicht: (2025)

MambaCapsule: Towards Transparent Cardiac Disease Diagnosis with Electrocardiography Using Mamba Capsule Network
von: Xu, Yinlong, et al.
Veröffentlicht: (2024)

Differential Mamba
von: Schneider, Nadav, et al.
Veröffentlicht: (2025)

DMamba: Decomposition-enhanced Mamba for Time Series Forecasting
von: Chen, Ruxuan, et al.
Veröffentlicht: (2026)

MemMamba: Rethinking Memory Patterns in State Space Model
von: Wang, Youjin, et al.
Veröffentlicht: (2025)

The Mamba in the Llama: Distilling and Accelerating Hybrid Models
von: Wang, Junxiong, et al.
Veröffentlicht: (2024)

Generalizable Trajectory Prediction via Inverse Reinforcement Learning with Mamba-Graph Architecture
von: Li, Wenyun, et al.
Veröffentlicht: (2025)

MambaOut: Do We Really Need Mamba for Vision?
von: Yu, Weihao, et al.
Veröffentlicht: (2024)

Do Robot Snakes Dream like Electric Sheep? Investigating the Effects of Architectural Inductive Biases on Hallucination
von: Huang, Jerry, et al.
Veröffentlicht: (2024)

Graph Signal Processing Meets Mamba2: Adaptive Filter Bank via Delta Modulation
von: Shin, Yehjin, et al.
Veröffentlicht: (2026)

Attention Dispersion in Dynamic Graph Transformers: Diagnosis and a Transferable Fix
von: Zhang, Jinhao, et al.
Veröffentlicht: (2026)

A Mamba Foundation Model for Time Series Forecasting
von: Ma, Haoyu, et al.
Veröffentlicht: (2024)

SST: Multi-Scale Hybrid Mamba-Transformer Experts for Time Series Forecasting
von: Xu, Xiongxiao, et al.
Veröffentlicht: (2024)

TrasMuon: Trust-Region Adaptive Scaling for Orthogonalized Momentum Optimizers
von: Cheng, Peng, et al.
Veröffentlicht: (2026)

LE-PDE++: Mamba for accelerating PDEs Simulations
von: Liang, Aoming, et al.
Veröffentlicht: (2024)

Integration of Mamba and Transformer -- MAT for Long-Short Range Time Series Forecasting with Application to Weather Dynamics
von: Zhang, Wenqing, et al.
Veröffentlicht: (2024)

End-to-End Multi-Modal Diffusion Mamba
von: Lu, Chunhao, et al.
Veröffentlicht: (2025)

Routing Mamba: Scaling State Space Models with Mixture-of-Experts Projection
von: Zhan, Zheng, et al.
Veröffentlicht: (2025)

Block-Biased Mamba for Long-Range Sequence Processing
von: Yu, Annan, et al.
Veröffentlicht: (2025)

Mamba State-Space Models Are Lyapunov-Stable Learners
von: Halloran, John T., et al.
Veröffentlicht: (2024)

Sequential Order-Robust Mamba for Time Series Forecasting
von: Lee, Seunghan, et al.
Veröffentlicht: (2024)

Mamba or Transformer for Time Series Forecasting? Mixture of Universals (MoU) Is All You Need
von: Peng, Sijia, et al.
Veröffentlicht: (2024)