Improving General Text Embedding Model: Tackling Task Conflict and Data Imbalance through Model Merging
Fuente:
arXiv
Salvato in:
| Autori principali: | Li, Mingxin, Nie, Zhijie, Zhang, Yanzhao, Long, Dingkun, Zhang, Richong, Xie, Pengjun |
|---|---|
| Natura: | Preprint |
| Pubblicazione: |
2024
|
| Soggetti: | |
| Accesso online: | |
| Tags: |
Aggiungi Tag
Nessun Tag, puoi essere il primo ad aggiungerne!!
|
Documenti analoghi
When Text Embedding Meets Large Language Model: A Comprehensive Survey
di: Nie, Zhijie, et al.
Pubblicazione: (2024)
di: Nie, Zhijie, et al.
Pubblicazione: (2024)
Text2Token: Unsupervised Text Representation Learning with Token Target Prediction
di: An, Ruize, et al.
Pubblicazione: (2025)
di: An, Ruize, et al.
Pubblicazione: (2025)
E2Rank: Your Text Embedding can Also be an Effective and Efficient Listwise Reranker
di: Liu, Qi, et al.
Pubblicazione: (2025)
di: Liu, Qi, et al.
Pubblicazione: (2025)
Towards Universal Video Retrieval: Generalizing Video Embedding via Synthesized Multimodal Pyramid Curriculum
di: Guo, Zhuoning, et al.
Pubblicazione: (2025)
di: Guo, Zhuoning, et al.
Pubblicazione: (2025)
ERank: Fusing Supervised Fine-Tuning and Reinforcement Learning for Effective and Efficient Text Reranking
di: Cai, Yuzheng, et al.
Pubblicazione: (2025)
di: Cai, Yuzheng, et al.
Pubblicazione: (2025)
Towards Better Understanding of Contrastive Sentence Representation Learning: A Unified Paradigm for Gradient
di: Li, Mingxin, et al.
Pubblicazione: (2024)
di: Li, Mingxin, et al.
Pubblicazione: (2024)
Qwen3 Embedding: Advancing Text Embedding and Reranking Through Foundation Models
di: Zhang, Yanzhao, et al.
Pubblicazione: (2025)
di: Zhang, Yanzhao, et al.
Pubblicazione: (2025)
A Text is Worth Several Tokens: Text Embedding from LLMs Secretly Aligns Well with The Key Tokens
di: Nie, Zhijie, et al.
Pubblicazione: (2024)
di: Nie, Zhijie, et al.
Pubblicazione: (2024)
Chinese Sequence Labeling with Semi-Supervised Boundary-Aware Language Model Pre-training
di: Zhang, Longhui, et al.
Pubblicazione: (2024)
di: Zhang, Longhui, et al.
Pubblicazione: (2024)
An End-to-End Model for Photo-Sharing Multi-modal Dialogue Generation
di: Guo, Peiming, et al.
Pubblicazione: (2024)
di: Guo, Peiming, et al.
Pubblicazione: (2024)
Language Models are Universal Embedders
di: Zhang, Xin, et al.
Pubblicazione: (2023)
di: Zhang, Xin, et al.
Pubblicazione: (2023)
Dynamic Task Vector Grouping for Efficient Multi-Task Prompt Tuning
di: Zhang, Pieyi, et al.
Pubblicazione: (2025)
di: Zhang, Pieyi, et al.
Pubblicazione: (2025)
GME: Improving Universal Multimodal Retrieval by Multimodal LLMs
di: Zhang, Xin, et al.
Pubblicazione: (2024)
di: Zhang, Xin, et al.
Pubblicazione: (2024)
LaSER: Internalizing Explicit Reasoning into Latent Space for Dense Retrieval
di: Jin, Jiajie, et al.
Pubblicazione: (2026)
di: Jin, Jiajie, et al.
Pubblicazione: (2026)
CoRect: Context-Aware Logit Contrast for Hidden State Rectification to Resolve Knowledge Conflicts
di: Ma, Xuhua, et al.
Pubblicazione: (2026)
di: Ma, Xuhua, et al.
Pubblicazione: (2026)
DiffuRank: Effective Document Reranking with Diffusion Language Models
di: Liu, Qi, et al.
Pubblicazione: (2026)
di: Liu, Qi, et al.
Pubblicazione: (2026)
Supervised Fine-Tuning or Contrastive Learning? Towards Better Multimodal LLM Reranking
di: Dai, Ziqi, et al.
Pubblicazione: (2025)
di: Dai, Ziqi, et al.
Pubblicazione: (2025)
mGTE: Generalized Long-Context Text Representation and Reranking Models for Multilingual Text Retrieval
di: Zhang, Xin, et al.
Pubblicazione: (2024)
di: Zhang, Xin, et al.
Pubblicazione: (2024)
Qwen3-VL-Embedding and Qwen3-VL-Reranker: A Unified Framework for State-of-the-Art Multimodal Retrieval and Ranking
di: Li, Mingxin, et al.
Pubblicazione: (2026)
di: Li, Mingxin, et al.
Pubblicazione: (2026)
Rethinking Composed Image Retrieval Evaluation: A Fine-Grained Benchmark from Image Editing
di: Song, Tingyu, et al.
Pubblicazione: (2026)
di: Song, Tingyu, et al.
Pubblicazione: (2026)
inversedMixup: Data Augmentation via Inverting Mixed Embeddings
di: Kong, Fanshuang, et al.
Pubblicazione: (2026)
di: Kong, Fanshuang, et al.
Pubblicazione: (2026)
Towards Text-Image Interleaved Retrieval
di: Zhang, Xin, et al.
Pubblicazione: (2025)
di: Zhang, Xin, et al.
Pubblicazione: (2025)
General Table Question Answering via Answer-Formula Joint Generation
di: Wang, Zhongyuan, et al.
Pubblicazione: (2025)
di: Wang, Zhongyuan, et al.
Pubblicazione: (2025)
Activated Parameter Locating via Causal Intervention for Model Merging
di: Kong, Fanshuang, et al.
Pubblicazione: (2024)
di: Kong, Fanshuang, et al.
Pubblicazione: (2024)
Tool-Assisted Agent on SQL Inspection and Refinement in Real-World Scenarios
di: Wang, Zhongyuan, et al.
Pubblicazione: (2024)
di: Wang, Zhongyuan, et al.
Pubblicazione: (2024)
Code-Style In-Context Learning for Knowledge-Based Question Answering
di: Nie, Zhijie, et al.
Pubblicazione: (2023)
di: Nie, Zhijie, et al.
Pubblicazione: (2023)
A Graph-based Verification Framework for Fact-Checking
di: Huang, Yani, et al.
Pubblicazione: (2025)
di: Huang, Yani, et al.
Pubblicazione: (2025)
A Two-Stage Adaptation of Large Language Models for Text Ranking
di: Zhang, Longhui, et al.
Pubblicazione: (2023)
di: Zhang, Longhui, et al.
Pubblicazione: (2023)
Bagging-Based Model Merging for Robust General Text Embeddings
di: Zhang, Hengran, et al.
Pubblicazione: (2026)
di: Zhang, Hengran, et al.
Pubblicazione: (2026)
EasyRAG: Efficient Retrieval-Augmented Generation Framework for Automated Network Operations
di: Feng, Zhangchi, et al.
Pubblicazione: (2024)
di: Feng, Zhangchi, et al.
Pubblicazione: (2024)
On SkipGram Word Embedding Models with Negative Sampling: Unified Framework and Impact of Noise Distributions
di: Liu, Dezhi, et al.
Pubblicazione: (2020)
di: Liu, Dezhi, et al.
Pubblicazione: (2020)
Improving Composed Image Retrieval via Contrastive Learning with Scaling Positives and Negatives
di: Feng, Zhangchi, et al.
Pubblicazione: (2024)
di: Feng, Zhangchi, et al.
Pubblicazione: (2024)
Pseudocode-Injection Magic: Enabling LLMs to Tackle Graph Computational Tasks
di: Gong, Chang, et al.
Pubblicazione: (2025)
di: Gong, Chang, et al.
Pubblicazione: (2025)
AR-BENCH: Benchmarking Legal Reasoning with Judgment Error Detection, Classification and Correction
di: Li, Yifei, et al.
Pubblicazione: (2026)
di: Li, Yifei, et al.
Pubblicazione: (2026)
ATEB: Evaluating and Improving Advanced NLP Tasks for Text Embedding Models
di: Han, Simeng, et al.
Pubblicazione: (2025)
di: Han, Simeng, et al.
Pubblicazione: (2025)
LED-Merging: Mitigating Safety-Utility Conflicts in Model Merging with Location-Election-Disjoint
di: Ma, Qianli, et al.
Pubblicazione: (2025)
di: Ma, Qianli, et al.
Pubblicazione: (2025)
Lost-in-the-Middle in Long-Text Generation: Synthetic Dataset, Evaluation Framework, and Mitigation
di: Zhang, Junhao, et al.
Pubblicazione: (2025)
di: Zhang, Junhao, et al.
Pubblicazione: (2025)
Model Tells You Where to Merge: Adaptive KV Cache Merging for LLMs on Long-Context Tasks
di: Wang, Zheng, et al.
Pubblicazione: (2024)
di: Wang, Zheng, et al.
Pubblicazione: (2024)
Ustnlp16 at SemEval-2025 Task 9: Improving Model Performance through Imbalance Handling and Focal Loss
di: Cai, Zhuoang, et al.
Pubblicazione: (2025)
di: Cai, Zhuoang, et al.
Pubblicazione: (2025)
Unconstrained Model Merging for Enhanced LLM Reasoning
di: Zhang, Yiming, et al.
Pubblicazione: (2024)
di: Zhang, Yiming, et al.
Pubblicazione: (2024)
Documenti analoghi
-
When Text Embedding Meets Large Language Model: A Comprehensive Survey
di: Nie, Zhijie, et al.
Pubblicazione: (2024) -
Text2Token: Unsupervised Text Representation Learning with Token Target Prediction
di: An, Ruize, et al.
Pubblicazione: (2025) -
E2Rank: Your Text Embedding can Also be an Effective and Efficient Listwise Reranker
di: Liu, Qi, et al.
Pubblicazione: (2025) -
Towards Universal Video Retrieval: Generalizing Video Embedding via Synthesized Multimodal Pyramid Curriculum
di: Guo, Zhuoning, et al.
Pubblicazione: (2025) -
ERank: Fusing Supervised Fine-Tuning and Reinforcement Learning for Effective and Efficient Text Reranking
di: Cai, Yuzheng, et al.
Pubblicazione: (2025)