Characterizing Mamba's Selective Memory using Auto-Encoders
Fuente:
arXiv
Enregistré dans:
| Auteurs principaux: | Hossain, Tamanna, Logan IV, Robert L., Jagadeesan, Ganesh, Singh, Sameer, Tetreault, Joel, Jaimes, Alejandro |
|---|---|
| Format: | Preprint |
| Publié: |
2025
|
| Sujets: | |
| Accès en ligne: | |
| Tags: |
Ajouter un tag
Pas de tags, Soyez le premier à ajouter un tag!
|
Documents similaires
MisgenderMender: A Community-Informed Approach to Interventions for Misgendering
par: Hossain, Tamanna, et autres
Publié: (2024)
par: Hossain, Tamanna, et autres
Publié: (2024)
Uchaguzi-2022: A Dataset of Citizen Reports on the 2022 Kenyan Election
par: Mondini, Roberto, et autres
Publié: (2024)
par: Mondini, Roberto, et autres
Publié: (2024)
Operationalizing AI for Good: Spotlight on Deployment and Integration of AI Models in Humanitarian Work
par: Abilov, Anton, et autres
Publié: (2025)
par: Abilov, Anton, et autres
Publié: (2025)
CEHA: A Dataset of Conflict Events in the Horn of Africa
par: Bai, Rui, et autres
Publié: (2024)
par: Bai, Rui, et autres
Publié: (2024)
The CoNLL-2013 Shared Task on Grammatical Error Correction
par: Ng, Hwee Tou, et autres
Publié: (2025)
par: Ng, Hwee Tou, et autres
Publié: (2025)
Sparse Auto-Encoders and Holism about Large Language Models
par: Grindrod, Jumbly
Publié: (2026)
par: Grindrod, Jumbly
Publié: (2026)
Boosting Masked ECG-Text Auto-Encoders as Discriminative Learners
par: Pham, Hung Manh, et autres
Publié: (2024)
par: Pham, Hung Manh, et autres
Publié: (2024)
Entropy-Aligned Decoding of LMs for Better Writing and Reasoning
par: Ahmed, Kareem, et autres
Publié: (2026)
par: Ahmed, Kareem, et autres
Publié: (2026)
Exploring Task Performance with Interpretable Models via Sparse Auto-Encoders
par: Wang, Shun, et autres
Publié: (2025)
par: Wang, Shun, et autres
Publié: (2025)
Bridging Compositional and Distributional Semantics: A Survey on Latent Semantic Geometry via AutoEncoder
par: Zhang, Yingji, et autres
Publié: (2025)
par: Zhang, Yingji, et autres
Publié: (2025)
On the Role of Encoder Depth: Pruning Whisper and LoRA Fine-Tuning in SLAM-ASR
par: Kolluri, Ganesh Pavan Kartikeya Bharadwaj, et autres
Publié: (2026)
par: Kolluri, Ganesh Pavan Kartikeya Bharadwaj, et autres
Publié: (2026)
Map of Encoders -- Mapping Sentence Encoders using Quantum Relative Entropy
par: Zhang, Gaifan, et autres
Publié: (2026)
par: Zhang, Gaifan, et autres
Publié: (2026)
Dynamic Span Interaction and Graph-Aware Memory for Entity-Level Sentiment Classification
par: Hossain, Md. Mithun, et autres
Publié: (2025)
par: Hossain, Md. Mithun, et autres
Publié: (2025)
Quasi-symbolic Semantic Geometry over Transformer-based Variational AutoEncoder
par: Zhang, Yingji, et autres
Publié: (2022)
par: Zhang, Yingji, et autres
Publié: (2022)
LinguaLens: Towards Interpreting Linguistic Mechanisms of Large Language Models via Sparse Auto-Encoder
par: Jing, Yi, et autres
Publié: (2025)
par: Jing, Yi, et autres
Publié: (2025)
Understanding and Enhancing Mamba-Transformer Hybrids for Memory Recall and Language Modeling
par: Lee, Hyunji, et autres
Publié: (2025)
par: Lee, Hyunji, et autres
Publié: (2025)
Auto-Dreamer: Learning Offline Memory Consolidation for Language Agents
par: Ye, Chongrui, et autres
Publié: (2026)
par: Ye, Chongrui, et autres
Publié: (2026)
HalluSAE: Detecting Hallucinations in Large Language Models via Sparse Auto-Encoders
par: Chen, Boshui, et autres
Publié: (2026)
par: Chen, Boshui, et autres
Publié: (2026)
Dial-MAE: ConTextual Masked Auto-Encoder for Retrieval-based Dialogue Systems
par: Su, Zhenpeng, et autres
Publié: (2023)
par: Su, Zhenpeng, et autres
Publié: (2023)
EchoPrompt: Instructing the Model to Rephrase Queries for Improved In-context Learning
par: Mekala, Rajasekhar Reddy, et autres
Publié: (2023)
par: Mekala, Rajasekhar Reddy, et autres
Publié: (2023)
Recall with Reasoning: Chain-of-Thought Distillation for Mamba's Long-Context Memory and Extrapolation
par: Ma, Junyu, et autres
Publié: (2025)
par: Ma, Junyu, et autres
Publié: (2025)
MaBERT:A Padding Safe Interleaved Transformer Mamba Hybrid Encoder for Efficient Extended Context Masked Language Modeling
par: Kim, Jinwoong, et autres
Publié: (2026)
par: Kim, Jinwoong, et autres
Publié: (2026)
Layer-Wise Evolution of Representations in Fine-Tuned Transformers: Insights from Sparse AutoEncoders
par: Nadipalli, Suneel
Publié: (2025)
par: Nadipalli, Suneel
Publié: (2025)
Self-StrAE at SemEval-2024 Task 1: Making Self-Structuring AutoEncoders Learn More With Less
par: Opper, Mattia, et autres
Publié: (2024)
par: Opper, Mattia, et autres
Publié: (2024)
Lost in State Space: Probing Frozen Mamba Representations
par: Wagh, Bhagyashree, et autres
Publié: (2026)
par: Wagh, Bhagyashree, et autres
Publié: (2026)
Small Changes, Large Consequences: Analyzing the Allocational Fairness of LLMs in Hiring Contexts
par: Seshadri, Preethi, et autres
Publié: (2025)
par: Seshadri, Preethi, et autres
Publié: (2025)
MambaByte: Token-free Selective State Space Model
par: Wang, Junxiong, et autres
Publié: (2024)
par: Wang, Junxiong, et autres
Publié: (2024)
MemMamba: Rethinking Memory Patterns in State Space Model
par: Wang, Youjin, et autres
Publié: (2025)
par: Wang, Youjin, et autres
Publié: (2025)
DeCAL Tokenwise Compression
par: Panwar, Sameer
Publié: (2025)
par: Panwar, Sameer
Publié: (2025)
Auto-scaling Continuous Memory for GUI Agent
par: Wu, Wenyi, et autres
Publié: (2025)
par: Wu, Wenyi, et autres
Publié: (2025)
Nudging: Inference-time Alignment of LLMs via Guided Decoding
par: Fei, Yu, et autres
Publié: (2024)
par: Fei, Yu, et autres
Publié: (2024)
A Survey of using Large Language Models for Generating Infrastructure as Code
par: Srivatsa, Kalahasti Ganesh, et autres
Publié: (2024)
par: Srivatsa, Kalahasti Ganesh, et autres
Publié: (2024)
ReMamba: Equip Mamba with Effective Long-Sequence Modeling
par: Yuan, Danlong, et autres
Publié: (2024)
par: Yuan, Danlong, et autres
Publié: (2024)
Hybrid Tokenization Strategy for DNA Language Model using Byte Pair Encoding and K-MER Methods
par: Sapkota, Ganesh, et autres
Publié: (2025)
par: Sapkota, Ganesh, et autres
Publié: (2025)
A Three-Pronged Approach to Cross-Lingual Adaptation with Multilingual LLMs
par: Singh, Vaibhav, et autres
Publié: (2024)
par: Singh, Vaibhav, et autres
Publié: (2024)
Main Predicate and Their Arguments as Explanation Signals For Intent Classification
par: Pimparkhede, Sameer, et autres
Publié: (2025)
par: Pimparkhede, Sameer, et autres
Publié: (2025)
Bio-Inspired Mamba: Temporal Locality and Bioplausible Learning in Selective State Space Models
par: Qin, Jiahao
Publié: (2024)
par: Qin, Jiahao
Publié: (2024)
Encoder-Decoder or Decoder-Only? Revisiting Encoder-Decoder Large Language Model
par: Zhang, Biao, et autres
Publié: (2025)
par: Zhang, Biao, et autres
Publié: (2025)
AutoTool: Dynamic Tool Selection and Integration for Agentic Reasoning
par: Zou, Jiaru, et autres
Publié: (2025)
par: Zou, Jiaru, et autres
Publié: (2025)
AutoIntent: AutoML for Text Classification
par: Alekseev, Ilya, et autres
Publié: (2025)
par: Alekseev, Ilya, et autres
Publié: (2025)
Documents similaires
-
MisgenderMender: A Community-Informed Approach to Interventions for Misgendering
par: Hossain, Tamanna, et autres
Publié: (2024) -
Uchaguzi-2022: A Dataset of Citizen Reports on the 2022 Kenyan Election
par: Mondini, Roberto, et autres
Publié: (2024) -
Operationalizing AI for Good: Spotlight on Deployment and Integration of AI Models in Humanitarian Work
par: Abilov, Anton, et autres
Publié: (2025) -
CEHA: A Dataset of Conflict Events in the Horn of Africa
par: Bai, Rui, et autres
Publié: (2024) -
The CoNLL-2013 Shared Task on Grammatical Error Correction
par: Ng, Hwee Tou, et autres
Publié: (2025)