Buchumschlag

Beyond Hard Negatives: The Importance of Score Distribution in Knowledge Distillation for Dense Retrieval

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Jang, Youngjoon, Hong, Seongtae, Moon, Hyeonseok, Lim, Heuiseok
Format:	Preprint
Veröffentlicht:	2026
Schlagworte:	Information Retrieval
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

MLAIRE: Multilingual Language-Aware Information Retrieval Evaluation Protocal
von: Jang, Youngjoon, et al.
Veröffentlicht: (2026)

Improving Semantic Proximity in Information Retrieval through Cross-Lingual Alignment
von: Hong, Seongtae, et al.
Veröffentlicht: (2026)

SemBridge: Language Transfer in Sparse Encoders via Multilingual Semantic Bridges
von: Hong, Seongtae, et al.
Veröffentlicht: (2026)

Improving Korean-English Cross-Lingual Retrieval: A Data-Centric Study of Language Composition and Model Merging
von: Jang, Youngjoon, et al.
Veröffentlicht: (2025)

CLEAR: Cross-Lingual Enhancement in Alignment via Reverse-training
von: Lee, Seungyoon, et al.
Veröffentlicht: (2026)

ARHN: Answer-Centric Relabeling of Hard Negatives with Open-Source LLMs for Dense Retrieval
von: Choi, Hyewon, et al.
Veröffentlicht: (2026)

SyNeg: LLM-Driven Synthetic Hard-Negatives for Dense Retrieval
von: Li, Xiaopeng, et al.
Veröffentlicht: (2024)

BiCA: Effective Biomedical Dense Retrieval with Citation-Aware Hard Negatives
von: Sinha, Aarush, et al.
Veröffentlicht: (2025)

Reliable Evaluation Protocol for Low-Precision Retrieval
von: Yang, Kisu, et al.
Veröffentlicht: (2025)

LANGSAE EDITING: Improving Multilingual Information Retrieval via Post-hoc Language Identity Removal
von: Kim, Dongjun, et al.
Veröffentlicht: (2026)

Graded Relevance Scoring of Written Essays with Dense Retrieval
von: Albatarni, Salam, et al.
Veröffentlicht: (2024)

Cross-Lingual Optimization for Language Transfer in Large Language Models
von: Lee, Jungseob, et al.
Veröffentlicht: (2025)

Semantic Aware Linear Transfer by Recycling Pre-trained Language Models for Cross-lingual Transfer
von: Lee, Seungyoon, et al.
Veröffentlicht: (2025)

Metric Calculating Benchmark: Code-Verifiable Complicate Instruction Following Benchmark for Large Language Models
von: Moon, Hyeonseok, et al.
Veröffentlicht: (2025)

PairDistill: Pairwise Relevance Distillation for Dense Retrieval
von: Huang, Chao-Wei, et al.
Veröffentlicht: (2024)

ECLIPSE: Contrastive Dimension Importance Estimation with Pseudo-Irrelevance Feedback for Dense Retrieval
von: D'Erasmo, Giulio, et al.
Veröffentlicht: (2024)

Negative Data Mining for Contrastive Learning in Dense Retrieval at IKEA.com
von: Agapaki, Eva, et al.
Veröffentlicht: (2026)

TriSampler: A Better Negative Sampling Principle for Dense Retrieval
von: Yang, Zhen, et al.
Veröffentlicht: (2024)

HiKEY: Hierarchical Multimodal Retrieval for Open-Domain Document Question Answering
von: Shin, Joongmin, et al.
Veröffentlicht: (2026)

Enhancing Automatic Term Extraction with Large Language Models via Syntactic Retrieval
von: Chun, Yongchan, et al.
Veröffentlicht: (2025)

WebFAQ 2.0: A Multilingual QA Dataset with Mined Hard Negatives for Dense Retrieval
von: Dinzinger, Michael, et al.
Veröffentlicht: (2026)

Translate-Distill: Learning Cross-Language Dense Retrieval by Translation and Distillation
von: Yang, Eugene, et al.
Veröffentlicht: (2024)

Teaching Dense Retrieval Models to Specialize with Listwise Distillation and LLM Data Augmentation
von: Tamber, Manveer Singh, et al.
Veröffentlicht: (2025)

Negation is Not Semantic: Diagnosing Dense Retrieval Failure Modes for Trade-offs in Contradiction-Aware Biomedical QA
von: Sahoo, Soumya Ranjan, et al.
Veröffentlicht: (2026)

Optimizing Legal Document Retrieval in Vietnamese with Semi-Hard Negative Mining
von: Le, Van-Hoang, et al.
Veröffentlicht: (2025)

Imagine All The Relevance: Scenario-Profiled Indexing with Knowledge Expansion for Dense Retrieval
von: Lee, Sangam, et al.
Veröffentlicht: (2025)

Adaptive Hardness Negative Sampling for Collaborative Filtering
von: Lai, Riwei, et al.
Veröffentlicht: (2024)

M3DocDep: Multi-modal, Multi-page, Multi-document Dependency Chunking with Large Vision-Language Models
von: Shin, Joongmin, et al.
Veröffentlicht: (2026)

Task-level Distributionally Robust Optimization for Large Language Model-based Dense Retrieval
von: Ma, Guangyuan, et al.
Veröffentlicht: (2024)

Does Generative Retrieval Overcome the Limitations of Dense Retrieval?
von: Zhang, Yingchen, et al.
Veröffentlicht: (2025)

Prism-Reranker: Beyond Relevance Scoring -- Jointly Producing Contributions and Evidence for Agentic Retrieval
von: Zhang, Dun
Veröffentlicht: (2026)

Aligning Dense Retrievers with LLM Utility via Distillation
von: Sandhu, Rajinder, et al.
Veröffentlicht: (2026)

Conventional Contrastive Learning Often Falls Short: Improving Dense Retrieval with Cross-Encoder Listwise Distillation and Synthetic Data
von: Tamber, Manveer Singh, et al.
Veröffentlicht: (2025)

Hard Negatives, Hard Lessons: Revisiting Training Data Quality for Robust Information Retrieval with LLMs
von: Thakur, Nandan, et al.
Veröffentlicht: (2025)

Dense Passage Retrieval in Conversational Search
von: Salamah, Ahmed H., et al.
Veröffentlicht: (2025)

On the Scaling of Robustness and Effectiveness in Dense Retrieval
von: Liu, Yu-An, et al.
Veröffentlicht: (2025)

Hard Negative Sampling via Large Language Models for Recommendation
von: Zhao, Chu, et al.
Veröffentlicht: (2025)

Domain Adaptation for Dense Retrieval and Conversational Dense Retrieval through Self-Supervision by Meticulous Pseudo-Relevance Labeling
von: Li, Minghan, et al.
Veröffentlicht: (2024)

ExpandR: Teaching Dense Retrievers Beyond Queries with LLM Guidance
von: Yao, Sijia, et al.
Veröffentlicht: (2025)

Mamba Retriever: Utilizing Mamba for Effective and Efficient Dense Retrieval
von: Zhang, Hanqi, et al.
Veröffentlicht: (2024)