Buchumschlag

Knowledge Distillation from Large Language Models for Household Energy Modeling

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Takrouri, Mohannad, Cuadrado, Nicolás M., Takáč, Martin
Format:	Preprint
Veröffentlicht:	2025
Schlagworte:	Computation and Language Machine Learning
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Tractable Probabilistic Models for Investment Planning
von: A., Nicolas M. Cuadrado, et al.
Veröffentlicht: (2025)

A Survey on Symbolic Knowledge Distillation of Large Language Models
von: Acharya, Kamal, et al.
Veröffentlicht: (2024)

Delta Knowledge Distillation for Large Language Models
von: Cao, Yihan, et al.
Veröffentlicht: (2025)

Feature Alignment and Representation Transfer in Knowledge Distillation for Large Language Models
von: Yang, Junjie, et al.
Veröffentlicht: (2025)

Knowledge Distillation and Dataset Distillation of Large Language Models: Emerging Trends, Challenges, and Future Directions
von: Fang, Luyang, et al.
Veröffentlicht: (2025)

Enhancing BERT Fine-Tuning for Sentiment Analysis in Lower-Resourced Languages
von: Kubík, Jozef, et al.
Veröffentlicht: (2025)

Multistage Collaborative Knowledge Distillation from a Large Language Model for Semi-Supervised Sequence Generation
von: Zhao, Jiachen, et al.
Veröffentlicht: (2023)

LLM-NEO: Parameter Efficient Knowledge Distillation for Large Language Models
von: Yang, Runming, et al.
Veröffentlicht: (2024)

Self-Distilled Reasoner: On-Policy Self-Distillation for Large Language Models
von: Zhao, Siyan, et al.
Veröffentlicht: (2026)

Language Model Knowledge Distillation for Efficient Question Answering in Spanish
von: Bazaga, Adrián, et al.
Veröffentlicht: (2023)

Demystifying Low-Rank Knowledge Distillation in Large Language Models: Convergence, Generalization, and Information-Theoretic Guarantees
von: Soarez, Alberlucia Rafael, et al.
Veröffentlicht: (2026)

A Dual-Space Framework for General Knowledge Distillation of Large Language Models
von: Zhang, Xue, et al.
Veröffentlicht: (2025)

A Survey of On-Policy Distillation for Large Language Models
von: Song, Mingyang, et al.
Veröffentlicht: (2026)

Adversarial Moment-Matching Distillation of Large Language Models
von: Jia, Chen
Veröffentlicht: (2024)

Personalized Collaborative Fine-Tuning for On-Device Large Language Models
von: Wagner, Nicolas, et al.
Veröffentlicht: (2024)

KDFlow: A User-Friendly and Efficient Knowledge Distillation Framework for Large Language Models
von: Zhang, Songming, et al.
Veröffentlicht: (2026)

Cache & Distil: Optimising API Calls to Large Language Models
von: Ramírez, Guillem, et al.
Veröffentlicht: (2023)

Distilling Large Language Models for Text-Attributed Graph Learning
von: Pan, Bo, et al.
Veröffentlicht: (2024)

MLKD-BERT: Multi-level Knowledge Distillation for Pre-trained Language Models
von: Zhang, Ying, et al.
Veröffentlicht: (2024)

Compact Language Models via Pruning and Knowledge Distillation
von: Muralidharan, Saurav, et al.
Veröffentlicht: (2024)

FRESCO: Federated Reinforcement Energy System for Cooperative Optimization
von: Cuadrado, Nicolas Mauricio, et al.
Veröffentlicht: (2024)

Iterative Layer-wise Distillation for Efficient Compression of Large Language Models
von: Kovalev, Grigory, et al.
Veröffentlicht: (2025)

Self-Data Distillation for Recovering Quality in Pruned Large Language Models
von: Thangarasa, Vithursan, et al.
Veröffentlicht: (2024)

SODA: Semi On-Policy Black-Box Distillation for Large Language Models
von: Chen, Xiwen, et al.
Veröffentlicht: (2026)

Structured Agent Distillation for Large Language Model
von: Liu, Jun, et al.
Veröffentlicht: (2025)

Large Language Models Explore by Latent Distilling
von: Zeng, Yuanhao, et al.
Veröffentlicht: (2026)

Neuron-Level Knowledge Attribution in Large Language Models
von: Yu, Zeping, et al.
Veröffentlicht: (2023)

metabench -- A Sparse Benchmark of Reasoning and Knowledge in Large Language Models
von: Kipnis, Alex, et al.
Veröffentlicht: (2024)

GeoLLM: Extracting Geospatial Knowledge from Large Language Models
von: Manvi, Rohin, et al.
Veröffentlicht: (2023)

UniDetox: Universal Detoxification of Large Language Models via Dataset Distillation
von: Lu, Huimin, et al.
Veröffentlicht: (2025)

Self-Calibrating Language Models via Test-Time Discriminative Distillation
von: Hedna, Mohamed Rissal, et al.
Veröffentlicht: (2026)

Testing Uncertainty of Large Language Models for Physics Knowledge and Reasoning
von: Reganova, Elizaveta, et al.
Veröffentlicht: (2024)

Crosslingual Capabilities and Knowledge Barriers in Multilingual Large Language Models
von: Chua, Lynn, et al.
Veröffentlicht: (2024)

Procedural Knowledge in Pretraining Drives Reasoning in Large Language Models
von: Ruis, Laura, et al.
Veröffentlicht: (2024)

Large Language Models Lack Temporal Awareness of Medical Knowledge
von: Guan, Zihan, et al.
Veröffentlicht: (2026)

Reasoning-preserved Efficient Distillation of Large Language Models via Activation-aware Initialization
von: He, Junlin, et al.
Veröffentlicht: (2026)

Being Strong Progressively! Enhancing Knowledge Distillation of Large Language Models through a Curriculum Learning Framework
von: Liu, Lingyuan, et al.
Veröffentlicht: (2025)

Oh! We Freeze: Improving Quantized Knowledge Distillation via Signal Propagation Analysis for Large Language Models
von: Bhardwaj, Kartikeya, et al.
Veröffentlicht: (2024)

Energy Considerations of Large Language Model Inference and Efficiency Optimizations
von: Fernandez, Jared, et al.
Veröffentlicht: (2025)

A Fused Large Language Model for Predicting Startup Success
von: Maarouf, Abdurahman, et al.
Veröffentlicht: (2024)