Buchumschlag

Dissecting Multiplication in Transformers: Insights into LLMs

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Qiu, Luyu, Li, Jianing, Su, Chi, Zhang, Chen Jason, Chen, Lei
Format:	Preprint
Veröffentlicht:	2024
Schlagworte:	Computation and Language
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

XPose: eXplainable Human Pose Estimation
von: Qiu, Luyu, et al.
Veröffentlicht: (2024)

Interactive Text-to-SQL via Expected Information Gain for Disambiguation
von: Qiu, Luyu, et al.
Veröffentlicht: (2025)

Exposing Numeracy Gaps: A Benchmark to Evaluate Fundamental Numerical Abilities in Large Language Models
von: Li, Haoyang, et al.
Veröffentlicht: (2025)

Dissecting Role Cognition in Medical LLMs via Neuronal Ablation
von: Liang, Xun, et al.
Veröffentlicht: (2025)

The Language Barrier: Dissecting Safety Challenges of LLMs in Multilingual Contexts
von: Shen, Lingfeng, et al.
Veröffentlicht: (2024)

Mask What Matters: Mitigating Object Hallucinations in Multimodal Large Language Models with Object-Aligned Visual Contrastive Decoding
von: Chen, Boqi, et al.
Veröffentlicht: (2026)

Revisiting Greedy Decoding for Visual Question Answering: A Calibration Perspective
von: Chen, Boqi, et al.
Veröffentlicht: (2026)

SonicBench: Dissecting the Physical Perception Bottleneck in Large Audio Language Models
von: Sun, Yirong, et al.
Veröffentlicht: (2026)

Towards Efficient LLMs Annealing with Principled Sample Selection
von: Xu, Yuanjian, et al.
Veröffentlicht: (2026)

Benchmarking Cognitive Domains for LLMs: Insights from Taiwanese Hakka Culture
von: Chang, Chen-Chi, et al.
Veröffentlicht: (2024)

AI Hiring with LLMs: A Context-Aware and Explainable Multi-Agent Framework for Resume Screening
von: Lo, Frank P. -W., et al.
Veröffentlicht: (2025)

Modeling Multiple Support Strategies within a Single Turn for Emotional Support Conversations
von: Zhu, Jie, et al.
Veröffentlicht: (2026)

Instruction Anchor: Dissecting the Mechanistic Dynamics of Modality Arbitration
von: Zhang, Yu, et al.
Veröffentlicht: (2026)

Dissecting Bias in LLMs: A Mechanistic Interpretability Perspective
von: Chandna, Bhavik, et al.
Veröffentlicht: (2025)

Dissecting Judicial Reasoning in U.S. Copyright Damage Awards
von: Lo, Pei-Chi, et al.
Veröffentlicht: (2026)

From Dissonance to Insights: Dissecting Disagreements in Rationale Construction for Case Outcome Classification
von: Xu, Shanshan, et al.
Veröffentlicht: (2023)

Anatomy of the Modality Gap: Dissecting the Internal States of End-to-End Speech LLMs
von: Hsu, Ming-Hao, et al.
Veröffentlicht: (2026)

Mitigating Hidden Confounding by Progressive Confounder Imputation via Large Language Models
von: Yang, Hao, et al.
Veröffentlicht: (2025)

Eye of Judgement: Dissecting the Evaluation of Russian-speaking LLMs with POLLUX
von: Martynov, Nikita, et al.
Veröffentlicht: (2025)

QualBench: Benchmarking Chinese LLMs with Localized Professional Qualifications for Vertical Domain Evaluation
von: Hong, Mengze, et al.
Veröffentlicht: (2025)

Revolutionizing Finance with LLMs: An Overview of Applications and Insights
von: Zhao, Huaqin, et al.
Veröffentlicht: (2024)

Lost in Multilinguality: Dissecting Cross-lingual Factual Inconsistency in Transformer Language Models
von: Wang, Mingyang, et al.
Veröffentlicht: (2025)

Unveiling Scoring Processes: Dissecting the Differences between LLMs and Human Graders in Automatic Scoring
von: Wu, Xuansheng, et al.
Veröffentlicht: (2024)

Safe in the Future, Dangerous in the Past: Dissecting Temporal and Linguistic Vulnerabilities in LLMs
von: Said, Muhammad Abdullahi, et al.
Veröffentlicht: (2025)

Dissecting Logical Reasoning in LLMs: A Fine-Grained Evaluation and Supervision Study
von: Zhou, Yujun, et al.
Veröffentlicht: (2025)

Reasoning that Travels: Dissecting How Chain-of-Thought Transfers Across Models
von: Cheng, Xinyuan, et al.
Veröffentlicht: (2026)

Dissecting Human and LLM Preferences
von: Li, Junlong, et al.
Veröffentlicht: (2024)

Mechanistic Interpretability of Binary and Ternary Transformers
von: Li, Jason
Veröffentlicht: (2024)

Dissecting Outlier Dynamics in LLM NVFP4 Pretraining
von: Dong, Peijie, et al.
Veröffentlicht: (2026)

Dissecting Tool-Integrated Reasoning: An Empirical Study and Analysis
von: Zhao, Yufeng, et al.
Veröffentlicht: (2025)

Beyond path selection: Better LLMs for Scientific Information Extraction with MimicSFT and Relevance and Rule-induced(R$^2$)GRPO
von: Li, Ran, et al.
Veröffentlicht: (2025)

Beyond Single-Point Judgment: Distribution Alignment for LLM-as-a-Judge
von: Chen, Luyu, et al.
Veröffentlicht: (2025)

Understanding the RoPE Extensions of Long-Context LLMs: An Attention Perspective
von: Zhong, Meizhi, et al.
Veröffentlicht: (2024)

GEMQ: Global Expert-Level Mixed-Precision Quantization for MoE LLMs
von: Deng, Jianing, et al.
Veröffentlicht: (2026)

Two Failures of Self-Consistency in the Multi-Step Reasoning of LLMs
von: Chen, Angelica, et al.
Veröffentlicht: (2023)

Can Post-Training Transform LLMs into Causal Reasoners?
von: Chen, Junqi, et al.
Veröffentlicht: (2026)

Dissecting the Ullman Variations with a SCALPEL: Why do LLMs fail at Trivial Alterations to the False Belief Task?
von: Pi, Zhiqiang, et al.
Veröffentlicht: (2024)

Using LLMs for Automated Privacy Policy Analysis: Prompt Engineering, Fine-Tuning and Explainability
von: Chen, Yuxin, et al.
Veröffentlicht: (2025)

Beyond GPT-5: Making LLMs Cheaper and Better via Performance-Efficiency Optimized Routing
von: Zhang, Yiqun, et al.
Veröffentlicht: (2025)

Towards Economical Inference: Enabling DeepSeek's Multi-Head Latent Attention in Any Transformer-based LLMs
von: Ji, Tao, et al.
Veröffentlicht: (2025)