Adaptive Layer-skipping in Pre-trained LLMs
Fuente:
arXiv
Salvato in:
| Autori principali: | Luo, Xuan, Wang, Weizhi, Yan, Xifeng |
|---|---|
| Natura: | Preprint |
| Pubblicazione: |
2025
|
| Soggetti: | |
| Accesso online: | |
| Tags: |
Aggiungi Tag
Nessun Tag, puoi essere il primo ad aggiungerne!!
|
Documenti analoghi
Direct Multi-Token Decoding
di: Luo, Xuan, et al.
Pubblicazione: (2025)
di: Luo, Xuan, et al.
Pubblicazione: (2025)
Learning When Not to Attend Globally
di: Luo, Xuan, et al.
Pubblicazione: (2025)
di: Luo, Xuan, et al.
Pubblicazione: (2025)
Automated Detection of Pre-training Text in Black-box LLMs
di: Hu, Ruihan, et al.
Pubblicazione: (2025)
di: Hu, Ruihan, et al.
Pubblicazione: (2025)
Bot or Human? Detecting ChatGPT Imposters with A Single Question
di: Wang, Hong, et al.
Pubblicazione: (2023)
di: Wang, Hong, et al.
Pubblicazione: (2023)
Pre-training LLMs using human-like development data corpus
di: Bhardwaj, Khushi, et al.
Pubblicazione: (2023)
di: Bhardwaj, Khushi, et al.
Pubblicazione: (2023)
Pre-trained Large Language Models for Financial Sentiment Analysis
di: Luo, Wei, et al.
Pubblicazione: (2024)
di: Luo, Wei, et al.
Pubblicazione: (2024)
Open-Qwen2VL: Compute-Efficient Pre-Training of Fully-Open Multimodal LLMs on Academic Resources
di: Wang, Weizhi, et al.
Pubblicazione: (2025)
di: Wang, Weizhi, et al.
Pubblicazione: (2025)
STAGE: Simplified Text-Attributed Graph Embeddings Using Pre-trained LLMs
di: Zolnai-Lucas, Aaron, et al.
Pubblicazione: (2024)
di: Zolnai-Lucas, Aaron, et al.
Pubblicazione: (2024)
Adaptive Few-shot Prompting for Machine Translation with Pre-trained Language Models
di: Tang, Lei, et al.
Pubblicazione: (2025)
di: Tang, Lei, et al.
Pubblicazione: (2025)
Efficient Language Adaptive Pre-training: Extending State-of-the-Art Large Language Models for Polish
di: Ruciński, Szymon
Pubblicazione: (2024)
di: Ruciński, Szymon
Pubblicazione: (2024)
Personalized Turn-Level User Conversation Satisfaction Benchmark
di: Wang, Zhefan, et al.
Pubblicazione: (2026)
di: Wang, Zhefan, et al.
Pubblicazione: (2026)
Synergistic Anchored Contrastive Pre-training for Few-Shot Relation Extraction
di: Luo, Da, et al.
Pubblicazione: (2023)
di: Luo, Da, et al.
Pubblicazione: (2023)
LangCell: Language-Cell Pre-training for Cell Identity Understanding
di: Zhao, Suyuan, et al.
Pubblicazione: (2024)
di: Zhao, Suyuan, et al.
Pubblicazione: (2024)
Scaling LLM Pre-training with Vocabulary Curriculum
di: Yu, Fangyuan
Pubblicazione: (2025)
di: Yu, Fangyuan
Pubblicazione: (2025)
Exploring the Benefit of Activation Sparsity in Pre-training
di: Zhang, Zhengyan, et al.
Pubblicazione: (2024)
di: Zhang, Zhengyan, et al.
Pubblicazione: (2024)
TransGPT: Multi-modal Generative Pre-trained Transformer for Transportation
di: Wang, Peng, et al.
Pubblicazione: (2024)
di: Wang, Peng, et al.
Pubblicazione: (2024)
Towards Smarter Hiring: Are Zero-Shot and Few-Shot Pre-trained LLMs Ready for HR Spoken Interview Transcript Analysis?
di: Maity, Subhankar, et al.
Pubblicazione: (2025)
di: Maity, Subhankar, et al.
Pubblicazione: (2025)
Benchmarking the Performance of Pre-trained LLMs across Urdu NLP Tasks
di: Tahir, Munief Hassan, et al.
Pubblicazione: (2024)
di: Tahir, Munief Hassan, et al.
Pubblicazione: (2024)
PreCog: Exploring the Relation between Memorization and Performance in Pre-trained Language Models
di: Ranaldi, Leonardo, et al.
Pubblicazione: (2023)
di: Ranaldi, Leonardo, et al.
Pubblicazione: (2023)
Teaching LLMs According to Their Aptitude: Adaptive Reasoning for Mathematical Problem Solving
di: Xu, Xin, et al.
Pubblicazione: (2025)
di: Xu, Xin, et al.
Pubblicazione: (2025)
StoryBench: A Dynamic Benchmark for Evaluating Long-Term Memory with Multi Turns
di: Wan, Luanbo, et al.
Pubblicazione: (2025)
di: Wan, Luanbo, et al.
Pubblicazione: (2025)
Zero, Finite, and Infinite Belief History of Theory of Mind Reasoning in Large Language Models
di: Tang, Weizhi, et al.
Pubblicazione: (2024)
di: Tang, Weizhi, et al.
Pubblicazione: (2024)
ToM-LM: Delegating Theory of Mind Reasoning to External Symbolic Executors in Large Language Models
di: Tang, Weizhi, et al.
Pubblicazione: (2024)
di: Tang, Weizhi, et al.
Pubblicazione: (2024)
Probing Language Models for Pre-training Data Detection
di: Liu, Zhenhua, et al.
Pubblicazione: (2024)
di: Liu, Zhenhua, et al.
Pubblicazione: (2024)
A Logical Pattern Memory Pre-trained Model for Entailment Tree Generation
di: Yuan, Li, et al.
Pubblicazione: (2024)
di: Yuan, Li, et al.
Pubblicazione: (2024)
SPAFIT: Stratified Progressive Adaptation Fine-tuning for Pre-trained Large Language Models
di: Arora, Samir, et al.
Pubblicazione: (2024)
di: Arora, Samir, et al.
Pubblicazione: (2024)
AdaptGOT: A Pre-trained Model for Adaptive Contextual POI Representation Learning
di: Ren, Xiaobin, et al.
Pubblicazione: (2025)
di: Ren, Xiaobin, et al.
Pubblicazione: (2025)
Can Pre-trained Language Models Understand Chinese Humor?
di: Chen, Yuyan, et al.
Pubblicazione: (2024)
di: Chen, Yuyan, et al.
Pubblicazione: (2024)
Spike No More: Stabilizing the Pre-training of Large Language Models
di: Takase, Sho, et al.
Pubblicazione: (2023)
di: Takase, Sho, et al.
Pubblicazione: (2023)
Hallucination Detection with the Internal Layers of LLMs
di: Preiß, Martin
Pubblicazione: (2025)
di: Preiß, Martin
Pubblicazione: (2025)
B-cos LM: Efficiently Transforming Pre-trained Language Models for Improved Explainability
di: Wang, Yifan, et al.
Pubblicazione: (2025)
di: Wang, Yifan, et al.
Pubblicazione: (2025)
HiFloat4 Format for Language Model Pre-training on Ascend NPUs
di: Taghian, Mehran, et al.
Pubblicazione: (2026)
di: Taghian, Mehran, et al.
Pubblicazione: (2026)
Compensating Distribution Drifts in Class-incremental Learning of Pre-trained Vision Transformers
di: Rao, Xuan, et al.
Pubblicazione: (2025)
di: Rao, Xuan, et al.
Pubblicazione: (2025)
Rethinking the Chain-of-Thought: The Roles of In-Context Learning and Pre-trained Priors
di: Yang, Hao, et al.
Pubblicazione: (2025)
di: Yang, Hao, et al.
Pubblicazione: (2025)
Boosting Explainability through Selective Rationalization in Pre-trained Language Models
di: Yuan, Libing, et al.
Pubblicazione: (2025)
di: Yuan, Libing, et al.
Pubblicazione: (2025)
DataMan: Data Manager for Pre-training Large Language Models
di: Peng, Ru, et al.
Pubblicazione: (2025)
di: Peng, Ru, et al.
Pubblicazione: (2025)
DocMamba: Efficient Document Pre-training with State Space Model
di: Hu, Pengfei, et al.
Pubblicazione: (2024)
di: Hu, Pengfei, et al.
Pubblicazione: (2024)
From N-grams to Pre-trained Multilingual Models For Language Identification
di: Sindane, Thapelo, et al.
Pubblicazione: (2024)
di: Sindane, Thapelo, et al.
Pubblicazione: (2024)
Understanding Data Temporality Impact on Large Language Models Pre-training
di: Pilchen, Hippolyte, et al.
Pubblicazione: (2026)
di: Pilchen, Hippolyte, et al.
Pubblicazione: (2026)
RegMix: Data Mixture as Regression for Language Model Pre-training
di: Liu, Qian, et al.
Pubblicazione: (2024)
di: Liu, Qian, et al.
Pubblicazione: (2024)
Documenti analoghi
-
Direct Multi-Token Decoding
di: Luo, Xuan, et al.
Pubblicazione: (2025) -
Learning When Not to Attend Globally
di: Luo, Xuan, et al.
Pubblicazione: (2025) -
Automated Detection of Pre-training Text in Black-box LLMs
di: Hu, Ruihan, et al.
Pubblicazione: (2025) -
Bot or Human? Detecting ChatGPT Imposters with A Single Question
di: Wang, Hong, et al.
Pubblicazione: (2023) -
Pre-training LLMs using human-like development data corpus
di: Bhardwaj, Khushi, et al.
Pubblicazione: (2023)