Buchumschlag

Condensed Data Expansion Using Model Inversion for Knowledge Distillation

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Binici, Kuluhan, Aggarwal, Shivam, Acar, Cihan, Pham, Nam Trung, Leman, Karianto, Lee, Gim Hee, Mitra, Tulika
Format:	Preprint
Veröffentlicht:	2024
Schlagworte:	Machine Learning Artificial Intelligence
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Robust and Resource-Efficient Data-Free Knowledge Distillation by Generative Pseudo Replay
von: Binici, Kuluhan, et al.
Veröffentlicht: (2022)

CRISP: Hybrid Structured Sparsity for Class-aware Model Pruning
von: Aggarwal, Shivam, et al.
Veröffentlicht: (2023)

Generalizing Teacher Networks for Effective Knowledge Distillation Across Student Architectures
von: Binici, Kuluhan, et al.
Veröffentlicht: (2024)

DAOP: Data-Aware Offloading and Predictive Pre-Calculation for Efficient MoE Inference
von: Zhang, Yujie, et al.
Veröffentlicht: (2024)

HALO: Hardware-aware quantization with low critical-path-delay weights for LLM acceleration
von: Juneja, Rohan, et al.
Veröffentlicht: (2025)

LLMs are not Zero-Shot Reasoners for Biomedical Information Extraction
von: Nagar, Aishik, et al.
Veröffentlicht: (2024)

DiET-GS: Diffusion Prior and Event Stream-Assisted Motion Deblurring 3D Gaussian Splatting
von: Lee, Seungjun, et al.
Veröffentlicht: (2025)

Shedding the Bits: Pushing the Boundaries of Quantization with Minifloats on FPGAs
von: Aggarwal, Shivam, et al.
Veröffentlicht: (2023)

g3D-LF: Generalizable 3D-Language Feature Fields for Embodied Tasks
von: Wang, Zihan, et al.
Veröffentlicht: (2024)

Efficient Knowledge Distillation via Curriculum Extraction
von: Gupta, Shivam, et al.
Veröffentlicht: (2025)

Segment Any 3D Object with Language
von: Lee, Seungjun, et al.
Veröffentlicht: (2024)

UNIKD: UNcertainty-filtered Incremental Knowledge Distillation for Neural Implicit Representation
von: Guo, Mengqi, et al.
Veröffentlicht: (2022)

TerEffic: Highly Efficient Ternary LLM Inference on FPGA
von: Yin, Chenyang, et al.
Veröffentlicht: (2025)

MEDSAGE: Enhancing Robustness of Medical Dialogue Summarization to ASR Errors with LLM-generated Synthetic Dialogues
von: Binici, Kuluhan, et al.
Veröffentlicht: (2024)

SWAT: Scalable and Efficient Window Attention-based Transformers Acceleration on FPGAs
von: Bai, Zhenyu, et al.
Veröffentlicht: (2024)

How to Backdoor the Knowledge Distillation
von: Wu, Chen, et al.
Veröffentlicht: (2025)

Improving Pronunciation and Accent Conversion through Knowledge Distillation And Synthetic Ground-Truth from Native TTS
von: Nguyen, Tuan Nam, et al.
Veröffentlicht: (2024)

From Obstacles to Etiquette: Robot Social Navigation with VLM-Informed Path Selection
von: Fang, Zilin, et al.
Veröffentlicht: (2026)

SIKeD: Self-guided Iterative Knowledge Distillation for mathematical reasoning
von: Adarsh, Shivam, et al.
Veröffentlicht: (2024)

Toward Privileged Foundation Models:LUPI for Accelerated and Improved Learning
von: Ding, Xueying, et al.
Veröffentlicht: (2026)

4D3R: Motion-Aware Neural Reconstruction and Rendering of Dynamic Scenes from Monocular Videos
von: Guo, Mengqi, et al.
Veröffentlicht: (2025)

FedKDX: Federated Learning with Negative Knowledge Distillation for Enhanced Healthcare AI Systems
von: Pham, Quang-Tu, et al.
Veröffentlicht: (2026)

NavRAG: Generating User Demand Instructions for Embodied Navigation through Retrieval-Augmented LLM
von: Wang, Zihan, et al.
Veröffentlicht: (2025)

CommitDistill: A Lightweight Knowledge-Centric Memory Layer for Software Repositories
von: Chukkapalli, Divya, et al.
Veröffentlicht: (2026)

LGCA: Enhancing Semantic Representation via Progressive Expansion
von: Cao, Thanh Hieu, et al.
Veröffentlicht: (2025)

Fast Unsupervised Deep Outlier Model Selection with Hypernetworks
von: Ding, Xueying, et al.
Veröffentlicht: (2023)

What Did They Mean? How LLMs Resolve Ambiguous Social Situations across Perspectives and Roles
von: Yuan, Qiming, et al.
Veröffentlicht: (2026)

FoMo-0D: A Foundation Model for Zero-shot Tabular Outlier Detection
von: Shen, Yuchen, et al.
Veröffentlicht: (2024)

Pedagogically-Inspired Data Synthesis for Language Model Knowledge Distillation
von: He, Bowei, et al.
Veröffentlicht: (2026)

Adaptive Explicit Knowledge Transfer for Knowledge Distillation
von: Park, Hyungkeun, et al.
Veröffentlicht: (2024)

HandMCM: Multi-modal Point Cloud-based Correspondence State Space Model for 3D Hand Pose Estimation
von: Cheng, Wencan, et al.
Veröffentlicht: (2026)

OrthoAI v2: From Single-Agent Segmentation to Dual-Agent Treatment Planning for Clear Aligners
von: Edouard, Lansiaux, et al.
Veröffentlicht: (2026)

CoBAD: Modeling Collective Behaviors for Human Mobility Anomaly Detection
von: Wen, Haomin, et al.
Veröffentlicht: (2025)

Single-Teacher View Augmentation: Boosting Knowledge Distillation via Angular Diversity
von: Yu, Seonghoon, et al.
Veröffentlicht: (2025)

DSG-KD: Knowledge Distillation from Domain-Specific to General Language Models
von: Cho, Sangyeon, et al.
Veröffentlicht: (2024)

Segment Any Events with Language
von: Lee, Seungjun, et al.
Veröffentlicht: (2026)

VizECGNet: Visual ECG Image Network for Cardiovascular Diseases Classification with Multi-Modal Training and Knowledge Distillation
von: Nam, Ju-Hyeon, et al.
Veröffentlicht: (2024)

Sustained Gradient Alignment Mediates Subliminal Learning in a Multi-Step Setting: Evidence from MNIST Auxiliary Logit Distillation Experiment
von: Kitkana, Chayanon, et al.
Veröffentlicht: (2026)

Asynchronous LLM Function Calling
von: Gim, In, et al.
Veröffentlicht: (2024)

Solving nonconvex Hamilton--Jacobi--Isaacs equations with PINN-based policy iteration
von: Yang, Hee Jun, et al.
Veröffentlicht: (2025)