Salvato in:
| Autori principali: | Ben-Artzy, Amit, Schwartz, Roy |
|---|---|
| Natura: | Preprint |
| Pubblicazione: |
2024
|
| Soggetti: | |
| Accesso online: | https://arxiv.org/abs/2409.03621 |
| Tags: |
Aggiungi Tag
Nessun Tag, puoi essere il primo ad aggiungerne!!
|
Documenti analoghi
SpeLLM: Character-Level Multi-Head Decoding
di: Ben-Artzy, Amit, et al.
Pubblicazione: (2025)
di: Ben-Artzy, Amit, et al.
Pubblicazione: (2025)
Attend to Evidence: Evidence-Anchored Spatial Attention Supervision for Multimodal RLVR
di: Hu, Ruina, et al.
Pubblicazione: (2026)
di: Hu, Ruina, et al.
Pubblicazione: (2026)
Should We Attend More or Less? Modulating Attention for Fairness
di: Zayed, Abdelrahman, et al.
Pubblicazione: (2023)
di: Zayed, Abdelrahman, et al.
Pubblicazione: (2023)
Beyond Performance: Quantifying and Mitigating Label Bias in LLMs
di: Reif, Yuval, et al.
Pubblicazione: (2024)
di: Reif, Yuval, et al.
Pubblicazione: (2024)
Don't Overthink it. Preferring Shorter Thinking Chains for Improved LLM Reasoning
di: Hassid, Michael, et al.
Pubblicazione: (2025)
di: Hassid, Michael, et al.
Pubblicazione: (2025)
Consolidating Rewarded Perturbations for LLM Post-Training
di: Zhang, Zheyu, et al.
Pubblicazione: (2026)
di: Zhang, Zheyu, et al.
Pubblicazione: (2026)
"It's how you do things that matters": Attending to Process to Better Serve Indigenous Communities with Language Technologies
di: Cooper, Ned, et al.
Pubblicazione: (2024)
di: Cooper, Ned, et al.
Pubblicazione: (2024)
Model Tells Itself Where to Attend: Faithfulness Meets Automatic Attention Steering
di: Zhang, Qingru, et al.
Pubblicazione: (2024)
di: Zhang, Qingru, et al.
Pubblicazione: (2024)
Tell Your Model Where to Attend: Post-hoc Attention Steering for LLMs
di: Zhang, Qingru, et al.
Pubblicazione: (2023)
di: Zhang, Qingru, et al.
Pubblicazione: (2023)
Compressible Softmax-Attended Language under Incompressible Attention
di: Lee, Wonsuk
Pubblicazione: (2026)
di: Lee, Wonsuk
Pubblicazione: (2026)
Clean First, Align Later: Benchmarking Preference Data Cleaning for Reliable LLM Alignment
di: Yeh, Samuel, et al.
Pubblicazione: (2025)
di: Yeh, Samuel, et al.
Pubblicazione: (2025)
XC-Cache: Cross-Attending to Cached Context for Efficient LLM Inference
di: Monteiro, João, et al.
Pubblicazione: (2024)
di: Monteiro, João, et al.
Pubblicazione: (2024)
Non-verbal information in spontaneous speech -- towards a new framework of analysis
di: Biron, Tirza, et al.
Pubblicazione: (2024)
di: Biron, Tirza, et al.
Pubblicazione: (2024)
Vocab Diet: Reshaping the Vocabulary of LLMs via Vector Arithmetic
di: Reif, Yuval, et al.
Pubblicazione: (2025)
di: Reif, Yuval, et al.
Pubblicazione: (2025)
Compute First: Read and Write Later.
di: Monahan, Brian D., et al.
Pubblicazione: (1982)
di: Monahan, Brian D., et al.
Pubblicazione: (1982)
Investigating Layer Importance in Large Language Models
di: Zhang, Yang, et al.
Pubblicazione: (2024)
di: Zhang, Yang, et al.
Pubblicazione: (2024)
CLAA: Cross-Layer Attention Aggregation for Accelerating LLM Prefill
di: McDanel, Bradley, et al.
Pubblicazione: (2026)
di: McDanel, Bradley, et al.
Pubblicazione: (2026)
Learning When Not to Attend Globally
di: Luo, Xuan, et al.
Pubblicazione: (2025)
di: Luo, Xuan, et al.
Pubblicazione: (2025)
Love First, Know Later: Persona-Based Romantic Compatibility Through LLM Text World Engines
di: Shang, Haoyang, et al.
Pubblicazione: (2025)
di: Shang, Haoyang, et al.
Pubblicazione: (2025)
Inferring Functionality of Attention Heads from their Parameters
di: Elhelo, Amit, et al.
Pubblicazione: (2024)
di: Elhelo, Amit, et al.
Pubblicazione: (2024)
Compressing KV Cache for Long-Context LLM Inference with Inter-Layer Attention Similarity
di: Ma, Da, et al.
Pubblicazione: (2024)
di: Ma, Da, et al.
Pubblicazione: (2024)
Copy First, Translate Later: Interpreting Translation Dynamics in Multilingual Pretraining
di: Körner, Felicia, et al.
Pubblicazione: (2026)
di: Körner, Felicia, et al.
Pubblicazione: (2026)
Attamba: Attending To Multi-Token States
di: Akhauri, Yash, et al.
Pubblicazione: (2024)
di: Akhauri, Yash, et al.
Pubblicazione: (2024)
Why Attend to Everything? Focus is the Key
di: Yao, Hengshuai, et al.
Pubblicazione: (2026)
di: Yao, Hengshuai, et al.
Pubblicazione: (2026)
On Pruning State-Space LLMs
di: Ghattas, Tamer, et al.
Pubblicazione: (2025)
di: Ghattas, Tamer, et al.
Pubblicazione: (2025)
Hi-ZFO: Hierarchical Zeroth- and First-Order LLM Fine-Tuning via Importance-Guided Tensor Selection
di: Jin, Feihu, et al.
Pubblicazione: (2026)
di: Jin, Feihu, et al.
Pubblicazione: (2026)
Reversed Attention: On The Gradient Descent Of Attention Layers In GPT
di: Katz, Shahar, et al.
Pubblicazione: (2024)
di: Katz, Shahar, et al.
Pubblicazione: (2024)
HTAM: Hierarchical Transition-Attended Memory for Operator Optimization
di: Zhang, Yining, et al.
Pubblicazione: (2026)
di: Zhang, Yining, et al.
Pubblicazione: (2026)
Selective Attention: Enhancing Transformer through Principled Context Control
di: Zhang, Xuechen, et al.
Pubblicazione: (2024)
di: Zhang, Xuechen, et al.
Pubblicazione: (2024)
The Larger the Better? Improved LLM Code-Generation via Budget Reallocation
di: Hassid, Michael, et al.
Pubblicazione: (2024)
di: Hassid, Michael, et al.
Pubblicazione: (2024)
Algorithm for Automatic Legislative Text Consolidation
di: Etcheverry, Matias, et al.
Pubblicazione: (2025)
di: Etcheverry, Matias, et al.
Pubblicazione: (2025)
Importance-Aware Data Selection for Efficient LLM Instruction Tuning
di: Jiang, Tingyu, et al.
Pubblicazione: (2025)
di: Jiang, Tingyu, et al.
Pubblicazione: (2025)
The Importance of Directional Feedback for LLM-based Optimizers
di: Nie, Allen, et al.
Pubblicazione: (2024)
di: Nie, Allen, et al.
Pubblicazione: (2024)
First-Step Advantage: Importance of Starting Right in Multi-Step Math Reasoning
di: Jain, Kushal, et al.
Pubblicazione: (2023)
di: Jain, Kushal, et al.
Pubblicazione: (2023)
MTMT: Consolidating Multiple Thinking Modes to Form a Thought Tree for Strengthening LLM
di: Li, Changcheng, et al.
Pubblicazione: (2024)
di: Li, Changcheng, et al.
Pubblicazione: (2024)
Towards Objective and Unbiased Decision Assessments with LLM-Enhanced Hierarchical Attention Networks
di: Liu, Junhua, et al.
Pubblicazione: (2024)
di: Liu, Junhua, et al.
Pubblicazione: (2024)
Layer-wise Alignment: Examining Safety Alignment Across Image Encoder Layers in Vision Language Models
di: Bachu, Saketh, et al.
Pubblicazione: (2024)
di: Bachu, Saketh, et al.
Pubblicazione: (2024)
On Importance of Layer Pruning for Smaller BERT Models and Low Resource Languages
di: Shirke, Mayur, et al.
Pubblicazione: (2025)
di: Shirke, Mayur, et al.
Pubblicazione: (2025)
PIS: Linking Importance Sampling and Attention Mechanisms for Efficient Prompt Compression
di: Chen, Lizhe, et al.
Pubblicazione: (2025)
di: Chen, Lizhe, et al.
Pubblicazione: (2025)
Attention Is Not All You Need: The Importance of Feedforward Networks in Transformer Models
di: Gerber, Isaac
Pubblicazione: (2025)
di: Gerber, Isaac
Pubblicazione: (2025)
Documenti analoghi
-
SpeLLM: Character-Level Multi-Head Decoding
di: Ben-Artzy, Amit, et al.
Pubblicazione: (2025) -
Attend to Evidence: Evidence-Anchored Spatial Attention Supervision for Multimodal RLVR
di: Hu, Ruina, et al.
Pubblicazione: (2026) -
Should We Attend More or Less? Modulating Attention for Fairness
di: Zayed, Abdelrahman, et al.
Pubblicazione: (2023) -
Beyond Performance: Quantifying and Mitigating Label Bias in LLMs
di: Reif, Yuval, et al.
Pubblicazione: (2024) -
Don't Overthink it. Preferring Shorter Thinking Chains for Improved LLM Reasoning
di: Hassid, Michael, et al.
Pubblicazione: (2025)