:: Library Catalog

Buchumschlag

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Vergara-Browne, Tomás, Soto, Álvaro
Format:	Preprint
Veröffentlicht:	2025
Schlagworte:	Computation and Language
Online-Zugang:	https://arxiv.org/abs/2505.10719
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

TracrBench: Generating Interpretability Testbeds with Large Language Models
von: Thurnherr, Hannes, et al.
Veröffentlicht: (2024)

Large Language Models are biased to overestimate profoundness
von: Herrera-Berg, Eugenio, et al.
Veröffentlicht: (2023)

GenDistiller: Distilling Pre-trained Language Models based on an Autoregressive Generative Model
von: Gao, Yingying, et al.
Veröffentlicht: (2024)

From Insights to Actions: The Impact of Interpretability and Analysis Research on NLP
von: Mosbach, Marius, et al.
Veröffentlicht: (2024)

Pre-training Distillation for Large Language Models: A Design Space Exploration
von: Peng, Hao, et al.
Veröffentlicht: (2024)

MLKD-BERT: Multi-level Knowledge Distillation for Pre-trained Language Models
von: Zhang, Ying, et al.
Veröffentlicht: (2024)

Eigenpruning: an Interpretability-Inspired PEFT Method
von: Vergara-Browne, Tomás, et al.
Veröffentlicht: (2024)

Detection Method for Prompt Injection by Integrating Pre-trained Model and Heuristic Feature Engineering
von: Ji, Yi, et al.
Veröffentlicht: (2025)

Collapse of Self-trained Language Models
von: Herel, David, et al.
Veröffentlicht: (2024)

COSMOS: Cross-Modality Self-Distillation for Vision Language Pre-training
von: Kim, Sanghwan, et al.
Veröffentlicht: (2024)

BLSP-KD: Bootstrapping Language-Speech Pre-training via Knowledge Distillation
von: Wang, Chen, et al.
Veröffentlicht: (2024)

Metadata Conditioning Accelerates Language Model Pre-training
von: Gao, Tianyu, et al.
Veröffentlicht: (2025)

Evaluating Discourse Cohesion in Pre-trained Language Models
von: He, Jie, et al.
Veröffentlicht: (2025)

Development of Cognitive Intelligence in Pre-trained Language Models
von: Shah, Raj Sanjay, et al.
Veröffentlicht: (2024)

Fine-tuning Pre-trained Language Models for Few-shot Intent Detection: Supervised Pre-training and Isotropization
von: Zhang, Haode, et al.
Veröffentlicht: (2022)

Model Merging in Pre-training of Large Language Models
von: Li, Yunshui, et al.
Veröffentlicht: (2025)

MiniPLM: Knowledge Distillation for Pre-Training Language Models
von: Gu, Yuxian, et al.
Veröffentlicht: (2024)

Stable Language Model Pre-training by Reducing Embedding Variability
von: Chung, Woojin, et al.
Veröffentlicht: (2024)

Probing Language Models for Pre-training Data Detection
von: Liu, Zhenhua, et al.
Veröffentlicht: (2024)

DEPT: Decoupled Embeddings for Pre-training Language Models
von: Iacob, Alex, et al.
Veröffentlicht: (2024)

Spoken Language Identification with Pre-trained Models and Margin Loss
von: Fang, Zhihua, et al.
Veröffentlicht: (2026)

STEP: Staged Parameter-Efficient Pre-training for Large Language Models
von: Yano, Kazuki, et al.
Veröffentlicht: (2025)

Knowledge-augmented Pre-trained Language Models for Biomedical Relation Extraction
von: Sänger, Mario, et al.
Veröffentlicht: (2025)

Cross-layer Attention Sharing for Pre-trained Large Language Models
von: Mu, Yongyu, et al.
Veröffentlicht: (2024)

From Robustness to Improved Generalization and Calibration in Pre-trained Language Models
von: Jukić, Josip, et al.
Veröffentlicht: (2024)

KoCo: Conditioning Language Model Pre-training on Knowledge Coordinates
von: Li, Yudong, et al.
Veröffentlicht: (2026)

SparseLLM: Towards Global Pruning for Pre-trained Language Models
von: Bai, Guangji, et al.
Veröffentlicht: (2024)

Projective Methods for Mitigating Gender Bias in Pre-trained Language Models
von: Dawkins, Hillary, et al.
Veröffentlicht: (2024)

Examining Forgetting in Continual Pre-training of Aligned Large Language Models
von: Li, Chen-An, et al.
Veröffentlicht: (2024)

A Survey of Pre-trained Language Models for Processing Scientific Text
von: Ho, Xanh, et al.
Veröffentlicht: (2024)

Applying Pre-trained Multilingual BERT in Embeddings for Improved Malicious Prompt Injection Attacks Detection
von: Rahman, Md Abdur, et al.
Veröffentlicht: (2024)

SlimQwen: Exploring the Pruning and Distillation in Large MoE Model Pre-training
von: Tang, Shengkun, et al.
Veröffentlicht: (2026)

Enhancing Linguistic Competence of Language Models through Pre-training with Language Learning Tasks
von: Yamaguchi, Atsuki, et al.
Veröffentlicht: (2026)

PreCog: Exploring the Relation between Memorization and Performance in Pre-trained Language Models
von: Ranaldi, Leonardo, et al.
Veröffentlicht: (2023)

Exploiting Vocabulary Frequency Imbalance in Language Model Pre-training
von: Chung, Woojin, et al.
Veröffentlicht: (2025)

Can Pre-trained Language Models Understand Chinese Humor?
von: Chen, Yuyan, et al.
Veröffentlicht: (2024)

Pre-trained Large Language Models for Financial Sentiment Analysis
von: Luo, Wei, et al.
Veröffentlicht: (2024)

Making Pre-trained Language Models Great on Tabular Prediction
von: Yan, Jiahuan, et al.
Veröffentlicht: (2024)

Spike No More: Stabilizing the Pre-training of Large Language Models
von: Takase, Sho, et al.
Veröffentlicht: (2023)

A Survey on Symbolic Knowledge Distillation of Large Language Models
von: Acharya, Kamal, et al.
Veröffentlicht: (2024)