On the Relationship between Skill Neurons and Robustness in Prompt Tuning
Fuente:
arXiv
Salvato in:
| Autori principali: | Ackermann, Leon, Ohmer, Xenia |
|---|---|
| Natura: | Preprint |
| Pubblicazione: |
2023
|
| Soggetti: | |
| Accesso online: | |
| Tags: |
Aggiungi Tag
Nessun Tag, puoi essere il primo ad aggiungerne!!
|
Documenti analoghi
From Form(s) to Meaning: Probing the Semantic Depths of Language Models Using Multisense Consistency
di: Ohmer, Xenia, et al.
Pubblicazione: (2024)
di: Ohmer, Xenia, et al.
Pubblicazione: (2024)
GRASP: A novel benchmark for evaluating language GRounding And Situated Physics understanding in multimodal language models
di: Jassim, Serwan, et al.
Pubblicazione: (2023)
di: Jassim, Serwan, et al.
Pubblicazione: (2023)
Auxiliary Metrics Help Decoding Skill Neurons in the Wild
di: Zhao, Yixiu, et al.
Pubblicazione: (2025)
di: Zhao, Yixiu, et al.
Pubblicazione: (2025)
Training Prompt Matters: State-Adaptive Optimization for Robust Fine-Tuning
di: Shi, Wenhang, et al.
Pubblicazione: (2026)
di: Shi, Wenhang, et al.
Pubblicazione: (2026)
Neuro-RIT: Neuron-Guided Instruction Tuning for Robust Retrieval-Augmented Language Model
di: Kim, Jaemin, et al.
Pubblicazione: (2026)
di: Kim, Jaemin, et al.
Pubblicazione: (2026)
From Parameters to Prompts: Understanding and Mitigating the Factuality Gap between Fine-Tuned LLMs
di: Gong, Xuan, et al.
Pubblicazione: (2025)
di: Gong, Xuan, et al.
Pubblicazione: (2025)
Understanding the Relationship between Prompts and Response Uncertainty in Large Language Models
di: Zhang, Ze Yu, et al.
Pubblicazione: (2024)
di: Zhang, Ze Yu, et al.
Pubblicazione: (2024)
A Survey on Prompt Tuning
di: Li, Zongqian, et al.
Pubblicazione: (2025)
di: Li, Zongqian, et al.
Pubblicazione: (2025)
Neuron-Aware Data Selection In Instruction Tuning For Large Language Models
di: Chen, Xin, et al.
Pubblicazione: (2026)
di: Chen, Xin, et al.
Pubblicazione: (2026)
Skills-in-Context Prompting: Unlocking Compositionality in Large Language Models
di: Chen, Jiaao, et al.
Pubblicazione: (2023)
di: Chen, Jiaao, et al.
Pubblicazione: (2023)
NeuronTune: Fine-Grained Neuron Modulation for Balanced Safety-Utility Alignment in LLMs
di: Pan, Birong, et al.
Pubblicazione: (2025)
di: Pan, Birong, et al.
Pubblicazione: (2025)
Few-Shot Dialogue Summarization via Skeleton-Assisted Prompt Transfer in Prompt Tuning
di: Xie, Kaige, et al.
Pubblicazione: (2023)
di: Xie, Kaige, et al.
Pubblicazione: (2023)
StablePrompt: Automatic Prompt Tuning using Reinforcement Learning for Large Language Models
di: Kwon, Minchan, et al.
Pubblicazione: (2024)
di: Kwon, Minchan, et al.
Pubblicazione: (2024)
Q-Tuning: Queue-based Prompt Tuning for Lifelong Few-shot Language Learning
di: Guo, Yanhui, et al.
Pubblicazione: (2024)
di: Guo, Yanhui, et al.
Pubblicazione: (2024)
Amuro and Char: Analyzing the Relationship between Pre-Training and Fine-Tuning of Large Language Models
di: Sun, Kaiser, et al.
Pubblicazione: (2024)
di: Sun, Kaiser, et al.
Pubblicazione: (2024)
Optimizing Soft Prompt Tuning via Structural Evolution
di: Huang, Zhenzhen, et al.
Pubblicazione: (2026)
di: Huang, Zhenzhen, et al.
Pubblicazione: (2026)
A Universal Prompting Strategy for Extracting Process Model Information from Natural Language Text using Large Language Models
di: Neuberger, Julian, et al.
Pubblicazione: (2024)
di: Neuberger, Julian, et al.
Pubblicazione: (2024)
NLSR: Neuron-Level Safety Realignment of Large Language Models Against Harmful Fine-Tuning
di: Yi, Xin, et al.
Pubblicazione: (2024)
di: Yi, Xin, et al.
Pubblicazione: (2024)
JsonTuning: Towards Generalizable, Robust, and Controllable Instruction Tuning
di: Gao, Chang, et al.
Pubblicazione: (2023)
di: Gao, Chang, et al.
Pubblicazione: (2023)
SCULPT: Systematic Tuning of Long Prompts
di: Kumar, Shanu, et al.
Pubblicazione: (2024)
di: Kumar, Shanu, et al.
Pubblicazione: (2024)
PAFT: Prompt-Agnostic Fine-Tuning
di: Wei, Chenxing, et al.
Pubblicazione: (2025)
di: Wei, Chenxing, et al.
Pubblicazione: (2025)
TuneVLSeg: Prompt Tuning Benchmark for Vision-Language Segmentation Models
di: Adhikari, Rabin, et al.
Pubblicazione: (2024)
di: Adhikari, Rabin, et al.
Pubblicazione: (2024)
Instruction Tuning and CoT Prompting for Contextual Medical QA with LLMs
di: Le, Chenqian, et al.
Pubblicazione: (2025)
di: Le, Chenqian, et al.
Pubblicazione: (2025)
Bayesian Multi-Task Transfer Learning for Soft Prompt Tuning
di: Lee, Haeju, et al.
Pubblicazione: (2024)
di: Lee, Haeju, et al.
Pubblicazione: (2024)
Persona Knowledge-Aligned Prompt Tuning Method for Online Debate
di: Chan, Chunkit, et al.
Pubblicazione: (2024)
di: Chan, Chunkit, et al.
Pubblicazione: (2024)
FPT: Feature Prompt Tuning for Few-shot Readability Assessment
di: Wang, Ziyang, et al.
Pubblicazione: (2024)
di: Wang, Ziyang, et al.
Pubblicazione: (2024)
Ultra-Low-Dimensional Prompt Tuning via Random Projection
di: Wu, Zijun, et al.
Pubblicazione: (2025)
di: Wu, Zijun, et al.
Pubblicazione: (2025)
IAPT: Instruction-Aware Prompt Tuning for Large Language Models
di: Zhu, Wei, et al.
Pubblicazione: (2024)
di: Zhu, Wei, et al.
Pubblicazione: (2024)
Self-Prompt Tuning: Enable Autonomous Role-Playing in LLMs
di: Kong, Aobo, et al.
Pubblicazione: (2024)
di: Kong, Aobo, et al.
Pubblicazione: (2024)
Prompt Tuning for Natural Language to SQL with Embedding Fine-Tuning and RAG
di: Jang, Jisoo, et al.
Pubblicazione: (2025)
di: Jang, Jisoo, et al.
Pubblicazione: (2025)
Consensus-Aligned Neuron Efficient Fine-Tuning Large Language Models for Multi-Domain Machine Translation
di: Jiang, Shuting, et al.
Pubblicazione: (2026)
di: Jiang, Shuting, et al.
Pubblicazione: (2026)
Use Me Wisely: AI-Driven Assessment for LLM Prompting Skills Development
di: Ognibene, Dimitri, et al.
Pubblicazione: (2025)
di: Ognibene, Dimitri, et al.
Pubblicazione: (2025)
Skill-Aware Data Selection and Fine-Tuning for Data-Efficient Reasoning Distillation
di: Zhang, Lechen, et al.
Pubblicazione: (2026)
di: Zhang, Lechen, et al.
Pubblicazione: (2026)
How Large Language Models are Designed to Hallucinate
di: Ackermann, Richard, et al.
Pubblicazione: (2025)
di: Ackermann, Richard, et al.
Pubblicazione: (2025)
Robustness of Prompting: Enhancing Robustness of Large Language Models Against Prompting Attacks
di: Mu, Lin, et al.
Pubblicazione: (2025)
di: Mu, Lin, et al.
Pubblicazione: (2025)
DynaPrompt: Dynamic Test-Time Prompt Tuning
di: Xiao, Zehao, et al.
Pubblicazione: (2025)
di: Xiao, Zehao, et al.
Pubblicazione: (2025)
Black-box Prompt Tuning with Subspace Learning
di: Zheng, Yuanhang, et al.
Pubblicazione: (2023)
di: Zheng, Yuanhang, et al.
Pubblicazione: (2023)
Negotiating with LLMS: Prompt Hacks, Skill Gaps, and Reasoning Deficits
di: Schneider, Johannes, et al.
Pubblicazione: (2023)
di: Schneider, Johannes, et al.
Pubblicazione: (2023)
PromptFix: Few-shot Backdoor Removal via Adversarial Prompt Tuning
di: Zhang, Tianrong, et al.
Pubblicazione: (2024)
di: Zhang, Tianrong, et al.
Pubblicazione: (2024)
Efficient and Effective Prompt Tuning via Prompt Decomposition and Compressed Outer Product
di: Lan, Pengxiang, et al.
Pubblicazione: (2025)
di: Lan, Pengxiang, et al.
Pubblicazione: (2025)
Documenti analoghi
-
From Form(s) to Meaning: Probing the Semantic Depths of Language Models Using Multisense Consistency
di: Ohmer, Xenia, et al.
Pubblicazione: (2024) -
GRASP: A novel benchmark for evaluating language GRounding And Situated Physics understanding in multimodal language models
di: Jassim, Serwan, et al.
Pubblicazione: (2023) -
Auxiliary Metrics Help Decoding Skill Neurons in the Wild
di: Zhao, Yixiu, et al.
Pubblicazione: (2025) -
Training Prompt Matters: State-Adaptive Optimization for Robust Fine-Tuning
di: Shi, Wenhang, et al.
Pubblicazione: (2026) -
Neuro-RIT: Neuron-Guided Instruction Tuning for Robust Retrieval-Augmented Language Model
di: Kim, Jaemin, et al.
Pubblicazione: (2026)