Buchumschlag

Fine-tuning Pre-trained Language Models for Few-shot Intent Detection: Supervised Pre-training and Isotropization

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Zhang, Haode, Liang, Haowen, Zhang, Yuwei, Zhan, Liming, Lu, Xiaolei, Lam, Albert Y. S., Wu, Xiao-Ming
Format:	Preprint
Veröffentlicht:	2022
Schlagworte:	Computation and Language
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Revisit Few-shot Intent Classification with PLMs: Direct Fine-tuning vs. Continual Pre-training
von: Zhang, Haode, et al.
Veröffentlicht: (2023)

Effectiveness of Pre-training for Few-shot Intent Classification
von: Zhang, Haode, et al.
Veröffentlicht: (2021)

New Intent Discovery with Pre-training and Contrastive Learning
von: Zhang, Yuwei, et al.
Veröffentlicht: (2022)

Minimizing PLM-Based Few-Shot Intent Detectors
von: Zhang, Haode, et al.
Veröffentlicht: (2024)

Selective Pre-training for Private Fine-tuning
von: Yu, Da, et al.
Veröffentlicht: (2023)

Improving Low-Resource Knowledge Tracing Tasks by Supervised Pre-training and Importance Mechanism Fine-tuning
von: Zhang, Hengyuan, et al.
Veröffentlicht: (2024)

Sparse is Enough in Fine-tuning Pre-trained Large Language Models
von: Song, Weixi, et al.
Veröffentlicht: (2023)

Pre-trained Language Models and Few-shot Learning for Medical Entity Extraction
von: Wang, Xiaokai, et al.
Veröffentlicht: (2025)

Pre-train and Fine-tune: Recommenders as Large Models
von: Jiang, Zhenhao, et al.
Veröffentlicht: (2025)

Regularized Contrastive Pre-training for Few-shot Bioacoustic Sound Detection
von: Moummad, Ilyass, et al.
Veröffentlicht: (2023)

Structure-aware Fine-tuning for Code Pre-trained Models
von: Wu, Jiayi, et al.
Veröffentlicht: (2024)

Adaptive Few-shot Prompting for Machine Translation with Pre-trained Language Models
von: Tang, Lei, et al.
Veröffentlicht: (2025)

Securely Fine-tuning Pre-trained Encoders Against Adversarial Examples
von: Zhou, Ziqi, et al.
Veröffentlicht: (2024)

Benchmarking Few-shot Transferability of Pre-trained Models with Improved Evaluation Protocols
von: Luo, Xu, et al.
Veröffentlicht: (2026)

Robust Fine-tuning for Pre-trained 3D Point Cloud Models
von: Zhang, Zhibo, et al.
Veröffentlicht: (2024)

Bias Mitigation in Fine-tuning Pre-trained Models for Enhanced Fairness and Efficiency
von: Zhang, Yixuan, et al.
Veröffentlicht: (2024)

RadarPLM: Adapting Pre-trained Language Models for Marine Radar Target Detection by Selective Fine-tuning
von: Hu, Qiying, et al.
Veröffentlicht: (2025)

Pre-trained Language Models Improve the Few-shot Prompt Ability of Decision Transformer
von: Yang, Yu, et al.
Veröffentlicht: (2024)

Fine-tuning Pre-trained Named Entity Recognition Models For Indian Languages
von: Bahad, Sankalp, et al.
Veröffentlicht: (2024)

SLCA++: Unleash the Power of Sequential Fine-tuning for Continual Learning with Pre-training
von: Zhang, Gengwei, et al.
Veröffentlicht: (2024)

Detecting Malicious Intents in Smart Contracts with Pre-trained Programming Language Models
von: Huang, Youwei, et al.
Veröffentlicht: (2025)

ControlVLA: Few-shot Object-centric Adaptation for Pre-trained Vision-Language-Action Models
von: Li, Puhao, et al.
Veröffentlicht: (2025)

Frequency Enhanced Pre-training for Cross-city Few-shot Traffic Forecasting
von: Liu, Zhanyu, et al.
Veröffentlicht: (2024)

Diversity-grounded Channel Prototypical Learning for Out-of-Distribution Intent Detection
von: Liu, Bo, et al.
Veröffentlicht: (2024)

An Empirical Study of Parameter Efficient Fine-tuning on Vision-Language Pre-train Model
von: Tian, Yuxin, et al.
Veröffentlicht: (2024)

SPAFIT: Stratified Progressive Adaptation Fine-tuning for Pre-trained Large Language Models
von: Arora, Samir, et al.
Veröffentlicht: (2024)

Task-Agnostic Pre-training and Task-Guided Fine-tuning for Versatile Diffusion Planner
von: Fan, Chenyou, et al.
Veröffentlicht: (2024)

FashionFAE: Fine-grained Attributes Enhanced Fashion Vision-Language Pre-training
von: Huang, Jiale, et al.
Veröffentlicht: (2024)

Fine-tuning Pre-trained Audio Models for COVID-19 Detection: A Technical Report
von: de Brito, Daniel Oliveira, et al.
Veröffentlicht: (2025)

Ada-adapter:Fast Few-shot Style Personlization of Diffusion Model with Pre-trained Image Encoder
von: Liu, Jia, et al.
Veröffentlicht: (2024)

MIMIC: Mask Image Pre-training with Mix Contrastive Fine-tuning for Facial Expression Recognition
von: Zhang, Fan, et al.
Veröffentlicht: (2024)

MEDVOC: Vocabulary Adaptation for Fine-tuning Pre-trained Language Models on Medical Text Summarization
von: Balde, Gunjan, et al.
Veröffentlicht: (2024)

Fine-tuning Pre-trained Vision-Language Models in a Human-Annotation-Free Manner
von: Wang, Qian-Wei, et al.
Veröffentlicht: (2026)

Efficiency in Focus: LayerNorm as a Catalyst for Fine-tuning Medical Visual Language Pre-trained Models
von: Chen, Jiawei, et al.
Veröffentlicht: (2024)

Can Pre-training Indicators Reliably Predict Fine-tuning Outcomes of LLMs?
von: Zeng, Hansi, et al.
Veröffentlicht: (2025)

Enhancing Vision-Language Pre-training with Rich Supervisions
von: Gao, Yuan, et al.
Veröffentlicht: (2024)

3D Modality-Aware Pre-training for Vision-Language Model in MRI Multi-organ Abnormality Detection
von: Zhu, Haowen, et al.
Veröffentlicht: (2026)

APPT: Boosting Automated Patch Correctness Prediction via Fine-tuning Pre-trained Models
von: Zhang, Quanjun, et al.
Veröffentlicht: (2023)

RepCali: High Efficient Fine-tuning Via Representation Calibration in Latent Space for Pre-trained Language Models
von: Zhang, Fujun, et al.
Veröffentlicht: (2025)

Probing Language Models for Pre-training Data Detection
von: Liu, Zhenhua, et al.
Veröffentlicht: (2024)