Buchumschlag

Introducing the NewsPaLM MBR and QE Dataset: LLM-Generated High-Quality Parallel Data Outperforms Traditional Web-Crawled Data

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Finkelstein, Mara, Vilar, David, Freitag, Markus
Format:	Preprint
Veröffentlicht:	2024
Schlagworte:	Computation and Language
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

MBR and QE Finetuning: Training-time Distillation of the Best and Most Expensive Decoding Methods
von: Finkelstein, Mara, et al.
Veröffentlicht: (2023)

Efficient Minimum Bayes Risk Decoding using Low-Rank Matrix Completion Algorithms
von: Trabelsi, Firas, et al.
Veröffentlicht: (2024)

Quality-Aware Translation Models: Efficient Generation and Quality Estimation in a Single Model
von: Tomani, Christian, et al.
Veröffentlicht: (2023)

Leveraging Web-Crawled Data for High-Quality Fine-Tuning
von: Zhou, Jing, et al.
Veröffentlicht: (2024)

MetricX-24: The Google Submission to the WMT 2024 Metrics Shared Task
von: Juraska, Juraj, et al.
Veröffentlicht: (2024)

Pretraining Strategies using Monolingual and Parallel Data for Low-Resource Machine Translation
von: Nguefack, Idriss Nguepi, et al.
Veröffentlicht: (2025)

From Jack of All Trades to Master of One: Specializing LLM-based Autoraters to a Test Set
von: Finkelstein, Mara, et al.
Veröffentlicht: (2024)

Craw4LLM: Efficient Web Crawling for LLM Pretraining
von: Yu, Shi, et al.
Veröffentlicht: (2025)

CC-GPX: Extracting High-Quality Annotated Geospatial Data from Common Crawl
von: Ilyankou, Ilya, et al.
Veröffentlicht: (2024)

Generating Difficult-to-Translate Texts
von: Zouhar, Vilém, et al.
Veröffentlicht: (2025)

You Cannot Feed Two Birds with One Score: the Accuracy-Naturalness Tradeoff in Translation
von: Flamich, Gergely, et al.
Veröffentlicht: (2025)

Ultra-FineWeb: Efficient Data Filtering and Verification for High-Quality LLM Training Data
von: Wang, Yudong, et al.
Veröffentlicht: (2025)

Building High-Quality Datasets for Portuguese LLMs: From Common Crawl Snapshots to Industrial-Grade Corpora
von: Almeida, Thales Sales, et al.
Veröffentlicht: (2025)

MQM Re-Annotation: A Technique for Collaborative Evaluation of Machine Translation
von: Riley, Parker, et al.
Veröffentlicht: (2025)

Smart Bilingual Focused Crawling of Parallel Documents
von: García-Romero, Cristian, et al.
Veröffentlicht: (2024)

SpeechQE: Estimating the Quality of Direct Speech Translation
von: Han, HyoJung, et al.
Veröffentlicht: (2024)

CoachLM: Automatic Instruction Revisions Improve the Data Quality in LLM Instruction Tuning
von: Liu, Yilun, et al.
Veröffentlicht: (2023)

Beyond Human-Only: Evaluating Human-Machine Collaboration for Collecting High-Quality Translation Data
von: Liu, Zhongtao, et al.
Veröffentlicht: (2024)

Learning from others' mistakes: Finetuning machine translation models with span-level error annotations
von: Zhang, Lily H., et al.
Veröffentlicht: (2024)

Mind the Gap... or Not? How Translation Errors and Evaluation Details Skew Multilingual Results
von: Peter, Jan-Thorsten, et al.
Veröffentlicht: (2025)

The Synergy of Automated Pipelines with Prompt Engineering and Generative AI in Web Crawling
von: Huang, Chau-Jian
Veröffentlicht: (2024)

Web Page Classification using LLMs for Crawling Support
von: Sasazawa, Yuichi, et al.
Veröffentlicht: (2025)

Do Language Models Care About Text Quality? Evaluating Web-Crawled Corpora Across 11 Languages
von: van Noord, Rik, et al.
Veröffentlicht: (2024)

Nemotron-CC: Transforming Common Crawl into a Refined Long-Horizon Pretraining Dataset
von: Su, Dan, et al.
Veröffentlicht: (2024)

MetricX-25 and GemSpanEval: Google Translate Submissions to the WMT25 Evaluation Shared Task
von: Juraska, Juraj, et al.
Veröffentlicht: (2025)

GneissWeb: Preparing High Quality Data for LLMs at Scale
von: Gohari, Hajar Emami, et al.
Veröffentlicht: (2025)

QE-EBM: Using Quality Estimators as Energy Loss for Machine Translation
von: Yoo, Gahyun, et al.
Veröffentlicht: (2024)

FineWeb-zhtw: Scalable Curation of Traditional Chinese Text Data from the Web
von: Lin, Cheng-Wei, et al.
Veröffentlicht: (2024)

QE4PE: Word-level Quality Estimation for Human Post-Editing
von: Sarti, Gabriele, et al.
Veröffentlicht: (2025)

ACADATA: Parallel Dataset of Academic Data for Machine Translation
von: Lacunza, Iñaki, et al.
Veröffentlicht: (2025)

The FineWeb Datasets: Decanting the Web for the Finest Text Data at Scale
von: Penedo, Guilherme, et al.
Veröffentlicht: (2024)

Can Performant LLMs Be Ethical? Quantifying the Impact of Web Crawling Opt-Outs
von: Fan, Dongyang, et al.
Veröffentlicht: (2025)

CompactQE: Interpretable Translation Quality Estimation via Small Open-Weight LLMs
von: Guttmann, Kamil, et al.
Veröffentlicht: (2026)

PaDeLLM-NER: Parallel Decoding in Large Language Models for Named Entity Recognition
von: Lu, Jinghui, et al.
Veröffentlicht: (2024)

LLMRefine: Pinpointing and Refining Large Language Models via Fine-Grained Actionable Feedback
von: Xu, Wenda, et al.
Veröffentlicht: (2023)

Overestimation in LLM Evaluation: A Controlled Large-Scale Study on Data Contamination's Impact on Machine Translation
von: Kocyigit, Muhammed Yusuf, et al.
Veröffentlicht: (2025)

SQL-PaLM: Improved Large Language Model Adaptation for Text-to-SQL (extended)
von: Sun, Ruoxi, et al.
Veröffentlicht: (2023)

Model-Based Quality Assessment for Massively Multilingual Parallel Data
von: Ibrahim, Abdelaziz M. A., et al.
Veröffentlicht: (2026)

Forecasting Credit Ratings: A Case Study where Traditional Methods Outperform Generative LLMs
von: Drinkall, Felix, et al.
Veröffentlicht: (2024)

Document Quality Scoring for Web Crawling
von: Pezzuti, Francesca, et al.
Veröffentlicht: (2025)