CMLFormer: A Dual Decoder Transformer with Switching Point Learning for Code-Mixed Language Modeling
Fuente:
arXiv
Salvato in:
| Autori principali: | Baral, Aditeya, Ajith, Allen George, Nayak, Roshan, Bhanja, Mrityunjay Abhijeet |
|---|---|
| Natura: | Preprint |
| Pubblicazione: |
2025
|
| Soggetti: | |
| Accesso online: | |
| Tags: |
Aggiungi Tag
Nessun Tag, puoi essere il primo ad aggiungerne!!
|
Documenti analoghi
Can LLMs $\textit{understand}$ Math? -- Exploring the Pitfalls in Mathematical Reasoning
di: Roy, Tiasa Singha, et al.
Pubblicazione: (2025)
di: Roy, Tiasa Singha, et al.
Pubblicazione: (2025)
CodeMixBench: Evaluating Large Language Models on Code Generation with Code-Mixed Prompts
di: Sheokand, Manik, et al.
Pubblicazione: (2025)
di: Sheokand, Manik, et al.
Pubblicazione: (2025)
Learning to Decode Collaboratively with Multiple Language Models
di: Shen, Shannon Zejiang, et al.
Pubblicazione: (2024)
di: Shen, Shannon Zejiang, et al.
Pubblicazione: (2024)
Pooling Attention: Evaluating Pretrained Transformer Embeddings for Deception Classification
di: Mamtani, Sumit, et al.
Pubblicazione: (2025)
di: Mamtani, Sumit, et al.
Pubblicazione: (2025)
CS-Sum: A Benchmark for Code-Switching Dialogue Summarization and the Limits of Large Language Models
di: Suresh, Sathya Krishnan, et al.
Pubblicazione: (2025)
di: Suresh, Sathya Krishnan, et al.
Pubblicazione: (2025)
Evaluating the Effectiveness of Pre-trained Language Models in Predicting the Helpfulness of Online Product Reviews
di: Boluki, Ali, et al.
Pubblicazione: (2023)
di: Boluki, Ali, et al.
Pubblicazione: (2023)
Entropy Adaptive Decoding: Dynamic Model Switching for Efficient Inference
di: Simonds, Toby
Pubblicazione: (2025)
di: Simonds, Toby
Pubblicazione: (2025)
How Powerful are Decoder-Only Transformer Neural Models?
di: Roberts, Jesse
Pubblicazione: (2023)
di: Roberts, Jesse
Pubblicazione: (2023)
Comparative Study of Pre-Trained BERT and Large Language Models for Code-Mixed Named Entity Recognition
di: Shirke, Mayur, et al.
Pubblicazione: (2025)
di: Shirke, Mayur, et al.
Pubblicazione: (2025)
SynapseRoute: An Auto-Route Switching Framework on Dual-State Large Language Model
di: Zhang, Wencheng, et al.
Pubblicazione: (2025)
di: Zhang, Wencheng, et al.
Pubblicazione: (2025)
DualDiffusion: A Speculative Decoding Strategy for Masked Diffusion Models
di: Goyal, Satyam, et al.
Pubblicazione: (2026)
di: Goyal, Satyam, et al.
Pubblicazione: (2026)
Code-Switching Curriculum Learning for Multilingual Transfer in LLMs
di: Yoo, Haneul, et al.
Pubblicazione: (2024)
di: Yoo, Haneul, et al.
Pubblicazione: (2024)
Decoding Uncertainty: The Impact of Decoding Strategies for Uncertainty Estimation in Large Language Models
di: Hashimoto, Wataru, et al.
Pubblicazione: (2025)
di: Hashimoto, Wataru, et al.
Pubblicazione: (2025)
Progressive Mixed-Precision Decoding for Efficient LLM Inference
di: Chen, Hao Mark, et al.
Pubblicazione: (2024)
di: Chen, Hao Mark, et al.
Pubblicazione: (2024)
Memory Injections: Correcting Multi-Hop Reasoning Failures during Inference in Transformer-Based Language Models
di: Sakarvadia, Mansi, et al.
Pubblicazione: (2023)
di: Sakarvadia, Mansi, et al.
Pubblicazione: (2023)
Synthetic Data Generation and Joint Learning for Robust Code-Mixed Translation
di: Kartik, Kartik, et al.
Pubblicazione: (2024)
di: Kartik, Kartik, et al.
Pubblicazione: (2024)
Stability-Weighted Decoding for Diffusion Language Models
di: Wu, Yue, et al.
Pubblicazione: (2026)
di: Wu, Yue, et al.
Pubblicazione: (2026)
Learning to Explain: Supervised Token Attribution from Transformer Attention Patterns
di: Mihaila, George
Pubblicazione: (2026)
di: Mihaila, George
Pubblicazione: (2026)
On The Adaptation of Unlimiformer for Decoder-Only Transformers
di: Ahrabian, Kian, et al.
Pubblicazione: (2024)
di: Ahrabian, Kian, et al.
Pubblicazione: (2024)
CHAI for LLMs: Improving Code-Mixed Translation in Large Language Models through Reinforcement Learning with AI Feedback
di: Zhang, Wenbo, et al.
Pubblicazione: (2024)
di: Zhang, Wenbo, et al.
Pubblicazione: (2024)
Adapting Language Balance in Code-Switching Speech
di: Ugan, Enes Yavuz, et al.
Pubblicazione: (2025)
di: Ugan, Enes Yavuz, et al.
Pubblicazione: (2025)
Are More Tokens Rational? Inference-Time Scaling in Language Models as Adaptive Resource Rationality
di: Hu, Zhimin, et al.
Pubblicazione: (2026)
di: Hu, Zhimin, et al.
Pubblicazione: (2026)
The Dual-Stream Transformer: Channelized Architecture for Interpretable Language Modeling
di: Kerce, J. Clayton, et al.
Pubblicazione: (2026)
di: Kerce, J. Clayton, et al.
Pubblicazione: (2026)
Learning to Keep a Promise: Scaling Language Model Decoding Parallelism with Learned Asynchronous Decoding
di: Jin, Tian, et al.
Pubblicazione: (2025)
di: Jin, Tian, et al.
Pubblicazione: (2025)
PIER: A Novel Metric for Evaluating What Matters in Code-Switching
di: Ugan, Enes Yavuz, et al.
Pubblicazione: (2025)
di: Ugan, Enes Yavuz, et al.
Pubblicazione: (2025)
DIVERS-Bench: Evaluating Language Identification Across Domain Shifts and Code-Switching
di: Ojo, Jessica, et al.
Pubblicazione: (2025)
di: Ojo, Jessica, et al.
Pubblicazione: (2025)
Physics of Language Models: Part 1, Learning Hierarchical Language Structures
di: Allen-Zhu, Zeyuan, et al.
Pubblicazione: (2023)
di: Allen-Zhu, Zeyuan, et al.
Pubblicazione: (2023)
FlashDecoding++: Faster Large Language Model Inference on GPUs
di: Hong, Ke, et al.
Pubblicazione: (2023)
di: Hong, Ke, et al.
Pubblicazione: (2023)
Recurrent Drafter for Fast Speculative Decoding in Large Language Models
di: Cheng, Yunfei, et al.
Pubblicazione: (2024)
di: Cheng, Yunfei, et al.
Pubblicazione: (2024)
Decoding Rarity: Large Language Models in the Diagnosis of Rare Diseases
di: Carbonari, Valentina, et al.
Pubblicazione: (2025)
di: Carbonari, Valentina, et al.
Pubblicazione: (2025)
Griffin: Mixing Gated Linear Recurrences with Local Attention for Efficient Language Models
di: De, Soham, et al.
Pubblicazione: (2024)
di: De, Soham, et al.
Pubblicazione: (2024)
Speculative Decoding Across Languages
di: Paudel, Nirajan, et al.
Pubblicazione: (2026)
di: Paudel, Nirajan, et al.
Pubblicazione: (2026)
Scaffolded Language Models with Language Supervision for Mixed-Autonomy: A Survey
di: Lin, Matthieu, et al.
Pubblicazione: (2024)
di: Lin, Matthieu, et al.
Pubblicazione: (2024)
MaxCode: A Max-Reward Reinforcement Learning Framework for Automated Code Optimization
di: Ou, Jiefu, et al.
Pubblicazione: (2026)
di: Ou, Jiefu, et al.
Pubblicazione: (2026)
Improving Zero-Shot Cross-Lingual Transfer via Progressive Code-Switching
di: Li, Zhuoran, et al.
Pubblicazione: (2024)
di: Li, Zhuoran, et al.
Pubblicazione: (2024)
LayerNorm Induces Recency Bias in Transformer Decoders
di: Kim, Junu, et al.
Pubblicazione: (2025)
di: Kim, Junu, et al.
Pubblicazione: (2025)
Dissociating Decodability and Causal Use in Bracket-Sequence Transformers
di: Sharma, Aryan, et al.
Pubblicazione: (2026)
di: Sharma, Aryan, et al.
Pubblicazione: (2026)
ConceptBed: Evaluating Concept Learning Abilities of Text-to-Image Diffusion Models
di: Patel, Maitreya, et al.
Pubblicazione: (2023)
di: Patel, Maitreya, et al.
Pubblicazione: (2023)
On Importance of Code-Mixed Embeddings for Hate Speech Identification
di: Jagdale, Shruti, et al.
Pubblicazione: (2024)
di: Jagdale, Shruti, et al.
Pubblicazione: (2024)
Adapting Decoder-Based Language Models for Diverse Encoder Downstream Tasks
di: Suganthan, Paul, et al.
Pubblicazione: (2025)
di: Suganthan, Paul, et al.
Pubblicazione: (2025)
Documenti analoghi
-
Can LLMs $\textit{understand}$ Math? -- Exploring the Pitfalls in Mathematical Reasoning
di: Roy, Tiasa Singha, et al.
Pubblicazione: (2025) -
CodeMixBench: Evaluating Large Language Models on Code Generation with Code-Mixed Prompts
di: Sheokand, Manik, et al.
Pubblicazione: (2025) -
Learning to Decode Collaboratively with Multiple Language Models
di: Shen, Shannon Zejiang, et al.
Pubblicazione: (2024) -
Pooling Attention: Evaluating Pretrained Transformer Embeddings for Deception Classification
di: Mamtani, Sumit, et al.
Pubblicazione: (2025) -
CS-Sum: A Benchmark for Code-Switching Dialogue Summarization and the Limits of Large Language Models
di: Suresh, Sathya Krishnan, et al.
Pubblicazione: (2025)