Buchumschlag

On Fairness of Task Arithmetic: The Role of Task Vectors

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Naganuma, Hiroki, Yoshida, Kotaro, Gonzalez, Laura Gomezjurado, Horie, Takafumi, Naraki, Yuji, Shimizu, Ryotaro
Format:	Preprint
Veröffentlicht:	2025
Schlagworte:	Machine Learning
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

DisTaC: Conditioning Task Vectors via Distillation for Robust Model Merging
von: Yoshida, Kotaro, et al.
Veröffentlicht: (2025)

Augmenting NER Datasets with LLMs: Towards Automated and Refined Annotation
von: Naraki, Yuji, et al.
Veröffentlicht: (2024)

Towards Understanding Variants of Invariant Risk Minimization through the Lens of Calibration
von: Yoshida, Kotaro, et al.
Veröffentlicht: (2024)

The Long Delay to Arithmetic Generalization: When Learned Representations Outrun Behavior
von: Gonzalez, Laura Gomezjurado
Veröffentlicht: (2026)

An Empirical Study of Pre-trained Model Selection for Out-of-Distribution Generalization and Calibration
von: Naganuma, Hiroki, et al.
Veröffentlicht: (2023)

Beyond Task Vectors: Selective Task Arithmetic Based on Importance Metrics
von: Bowen, Tian, et al.
Veröffentlicht: (2024)

Task Vector Bases: A Unified and Scalable Framework for Compressed Task Arithmetic
von: Zeng, Siqi, et al.
Veröffentlicht: (2025)

Orth-Dion: Eliminating Geometric Mismatch in Distributed Low-Rank Spectral Optimization
von: Nakamori, Tatsuhiro, et al.
Veröffentlicht: (2026)

Provable In-Context Vector Arithmetic via Retrieving Task Concepts
von: Bu, Dake, et al.
Veröffentlicht: (2025)

Revisiting Generalization Measures Beyond IID: An Empirical Study under Distributional Shift
von: Nakai, Sora, et al.
Veröffentlicht: (2026)

Backdoor Vectors: a Task Arithmetic View on Backdoor Attacks and Defenses
von: Pawlak, Stanisław, et al.
Veröffentlicht: (2025)

Escaping Optimization Stagnation: Taking Steps Beyond Task Arithmetic via Difference Vectors
von: Wang, Jinping, et al.
Veröffentlicht: (2025)

Language Models Do Hard Arithmetic Tasks Easily and Hardly Do Easy Arithmetic Tasks
von: Gambardella, Andrew, et al.
Veröffentlicht: (2024)

Layer-Aware Task Arithmetic: Disentangling Task-Specific and Instruction-Following Knowledge
von: Chen, Yan-Lun, et al.
Veröffentlicht: (2025)

On Task Vectors and Gradients
von: Zhou, Luca, et al.
Veröffentlicht: (2025)

Geometric Insights into Focal Loss: Reducing Curvature for Enhanced Model Calibration
von: Kimura, Masanari, et al.
Veröffentlicht: (2024)

Leveraging Submodule Linearity Enhances Task Arithmetic Performance in LLMs
von: Dai, Rui, et al.
Veröffentlicht: (2025)

Per-parameter Task Arithmetic for Unlearning in Large Language Models
von: Cai, Chengyi, et al.
Veröffentlicht: (2026)

Task Arithmetic Through The Lens Of One-Shot Federated Learning
von: Tao, Zhixu Silvia, et al.
Veröffentlicht: (2024)

Robust Invariant Representation Learning by Distribution Extrapolation
von: Yoshida, Kotaro, et al.
Veröffentlicht: (2025)

How Does Preconditioning Guide Feature Learning in Deep Neural Networks?
von: Yoshida, Kotaro, et al.
Veröffentlicht: (2025)

Variational Task Vector Composition
von: Zhang, Boyuan, et al.
Veröffentlicht: (2025)

On the Consistency of Fairness Measurement Methods for Regression Tasks
von: Almajed, Abdalwahab, et al.
Veröffentlicht: (2024)

Fair Resource Allocation in Multi-Task Learning
von: Ban, Hao, et al.
Veröffentlicht: (2024)

Convergence Bound and Critical Batch Size of Muon Optimizer
von: Sato, Naoki, et al.
Veröffentlicht: (2025)

Decomposing Task Vectors for Refined Model Editing
von: Damirchi, Hamed, et al.
Veröffentlicht: (2025)

Task Vector Geometry Underlies Dual Modes of Task Inference in Transformers
von: Yan, Hao, et al.
Veröffentlicht: (2026)

Dataset Representativeness and Downstream Task Fairness
von: Borza, Victor, et al.
Veröffentlicht: (2024)

Fine-Tuning Attention Modules Only: Enhancing Weight Disentanglement in Task Arithmetic
von: Jin, Ruochen, et al.
Veröffentlicht: (2024)

Investigating Task Arithmetic for Zero-Shot Information Retrieval
von: Braga, Marco, et al.
Veröffentlicht: (2025)

Task Vector Quantization for Memory-Efficient Model Merging
von: Kim, Youngeun, et al.
Veröffentlicht: (2025)

Task Vectors in In-Context Learning: Emergence, Formation, and Benefit
von: Yang, Liu, et al.
Veröffentlicht: (2025)

Principled Understanding of Generalization for Generative Transformer Models in Arithmetic Reasoning Tasks
von: Xu, Xingcheng, et al.
Veröffentlicht: (2024)

Bus-Conditioned Zero-Shot Trajectory Generation via Task Arithmetic
von: Liu, Shuai, et al.
Veröffentlicht: (2026)

Explicitly Encoding Structural Symmetry is Key to Length Generalization in Arithmetic Tasks
von: Sabbaghi, Mahdi, et al.
Veröffentlicht: (2024)

LegalRikai: Open Benchmark -- Benchmark for Complex Japanese Corporate Legal Tasks
von: Fujita, Shogo, et al.
Veröffentlicht: (2025)

Subtract the Corruption: Training-Data-Free Corrective Machine Unlearning using Task Arithmetic
von: Mozafari, Mostafa, et al.
Veröffentlicht: (2025)

FairMT: Fairness for Heterogeneous Multi-Task Learning
von: Hu, Guanyu, et al.
Veröffentlicht: (2025)

Group Fairness in Multi-Task Reinforcement Learning
von: Song, Kefan, et al.
Veröffentlicht: (2025)

Adaptive Task Vectors for Large Language Models
von: Kang, Joonseong, et al.
Veröffentlicht: (2025)