Buchumschlag

Reproducing and Comparing Distillation Techniques for Cross-Encoders

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Morand, Victor, Vast, Mathias, Van Cooten, Basile, Soulier, Laure, Mothe, Josiane, Piwowarski, Benjamin
Format:	Preprint
Veröffentlicht:	2026
Schlagworte:	Information Retrieval
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

MICE: Minimal Interaction Cross-Encoders for efficient Re-ranking
von: Vast, Mathias, et al.
Veröffentlicht: (2026)

Understanding Matching Mechanisms in Cross-Encoders
von: Vast, Mathias, et al.
Veröffentlicht: (2025)

Which Neurons Matter in IR? Applying Integrated Gradients-based Methods to Understand Cross-Encoders
von: Vast, Mathias, et al.
Veröffentlicht: (2024)

Simple Domain Adaptation for Sparse Retrievers
von: Vast, Mathias, et al.
Veröffentlicht: (2024)

From Tokens to Concepts: Leveraging SAE for SPLADE
von: Zong, Yuxuan, et al.
Veröffentlicht: (2026)

Shaping the Future of Endangered and Low-Resource Languages -- Our Role in the Age of LLMs: A Keynote at ECIR 2024
von: Mothe, Josiane
Veröffentlicht: (2024)

CoSPLADE: Contextualizing SPLADE for Conversational Information Retrieval
von: Hai, Nam Le, et al.
Veröffentlicht: (2023)

On the Representations of Entities in Auto-regressive Large Language Models
von: Morand, Victor, et al.
Veröffentlicht: (2025)

Improving Neural Retrieval with Attribution-Guided Query Rewriting
von: Garouani, Moncef, et al.
Veröffentlicht: (2026)

Selective Query Processing: a Risk-Sensitive Selection of System Configurations
von: Mothe, Josiane, et al.
Veröffentlicht: (2023)

Clarifying Ambiguities: on the Role of Ambiguity Types in Prompting Methods for Clarification Generation
von: Tang, Anfu, et al.
Veröffentlicht: (2025)

ToMMeR -- Efficient Entity Mention Detection from Large Language Models
von: Morand, Victor, et al.
Veröffentlicht: (2025)

Dense Retrieval for Low Resource Languages -- the Case of Amharic Language
von: Yeshambel, Tilahun, et al.
Veröffentlicht: (2025)

AmharicIR+Instr: A Two-Dataset Resource for Neural Retrieval and Instruction Tuning
von: Yeshambel, Tilahun, et al.
Veröffentlicht: (2026)

Towards Lossless Token Pruning in Late-Interaction Retrieval Models
von: Zong, Yuxuan, et al.
Veröffentlicht: (2025)

Navigating Uncertainty: Optimizing API Dependency for Hallucination Reduction in Closed-Book Question Answering
von: Erbacher, Pierre, et al.
Veröffentlicht: (2024)

PAQA: Toward ProActive Open-Retrieval Question Answering
von: Erbacher, Pierre, et al.
Veröffentlicht: (2024)

RAC: Retrieval-Augmented Clarification for Faithful Conversational Search
von: Kebir, Ahmed Rayane, et al.
Veröffentlicht: (2026)

Annotating Satellite Images of Forests with Keywords from a Specialized Corpus in the Context of Change Detection
von: Neptune, Nathalie, et al.
Veröffentlicht: (2025)

An Evaluation Framework for Attributed Information Retrieval using Large Language Models
von: Djeddal, Hanane, et al.
Veröffentlicht: (2024)

Conventional Contrastive Learning Often Falls Short: Improving Dense Retrieval with Cross-Encoder Listwise Distillation and Synthetic Data
von: Tamber, Manveer Singh, et al.
Veröffentlicht: (2025)

Scaling Laws for Cross-Encoder Reranking
von: Seetharaman, Rahul, et al.
Veröffentlicht: (2026)

Comparative Analysis of Lion and AdamW Optimizers for Cross-Encoder Reranking with MiniLM, GTE, and ModernBERT
von: Kumar, Shahil, et al.
Veröffentlicht: (2025)

Investigating the Effects of Sparse Attention on Cross-Encoders
von: Schlatt, Ferdinand, et al.
Veröffentlicht: (2023)

Can we predict QPP? An approach based on multivariate outliers
von: Chifu, Adrian-Gabriel, et al.
Veröffentlicht: (2024)

Set-Encoder: Permutation-Invariant Inter-Passage Attention for Listwise Passage Re-Ranking with Cross-Encoders
von: Schlatt, Ferdinand, et al.
Veröffentlicht: (2024)

LLMDistill4Ads: Using Cross-Encoders to Distill from LLM Signals for Advertiser Keyphrase Recommendations at eBay
von: Dey, Soumik, et al.
Veröffentlicht: (2025)

A Thorough Comparison of Cross-Encoders and LLMs for Reranking SPLADE
von: Déjean, Hervé, et al.
Veröffentlicht: (2024)

Distribution-Guided Auto-Encoder for User Multimodal Interest Cross Fusion
von: Zhang, Moyu, et al.
Veröffentlicht: (2025)

A Voronoi Cell Formulation for Principled Token Pruning in Late-Interaction Retrieval Models
von: Kankanampati, Yash, et al.
Veröffentlicht: (2026)

xVLM2Vec: Adapting LVLM-based embedding models to multilinguality using Self-Knowledge Distillation
von: Musacchio, Elio, et al.
Veröffentlicht: (2025)

Bert4XMR: Cross-Market Recommendation with Bidirectional Encoder Representations from Transformer
von: Hu, Zheng, et al.
Veröffentlicht: (2023)

Shallow Cross-Encoders for Low-Latency Retrieval
von: Petrov, Aleksandr V., et al.
Veröffentlicht: (2024)

PRECTR-V2:Unified Relevance-CTR Framework with Cross-User Preference Mining, Exposure Bias Correction, and LLM-Distilled Encoder Optimization
von: Cao, Shuzhi, et al.
Veröffentlicht: (2026)

Can Cross Encoders Produce Useful Sentence Embeddings?
von: Ananthakrishnan, Haritha, et al.
Veröffentlicht: (2025)

Rank-DistiLLM: Closing the Effectiveness Gap Between Cross-Encoders and LLMs for Passage Re-Ranking
von: Schlatt, Ferdinand, et al.
Veröffentlicht: (2024)

Autoregressive Ranking: Bridging the Gap Between Dual and Cross Encoders
von: Rozonoyer, Benjamin, et al.
Veröffentlicht: (2026)

Text2Playlist: Generating Personalized Playlists from Text on Deezer
von: Delcluze, Mathieu, et al.
Veröffentlicht: (2025)

Adaptive Retrieval and Scalable Indexing for k-NN Search with Cross-Encoders
von: Yadav, Nishant, et al.
Veröffentlicht: (2024)

Can Query Expansion Improve Generalization of Strong Cross-Encoder Rankers?
von: Li, Minghan, et al.
Veröffentlicht: (2023)