Buchumschlag

RMT-KD: Random Matrix Theoretic Causal Knowledge Distillation

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Ettori, Davide, Darabi, Nastaran, Senthilkumar, Sureshkumar, Trivedi, Amit Ranjan
Format:	Preprint
Veröffentlicht:	2025
Schlagworte:	Machine Learning
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

EigenShield: Causal Subspace Filtering via Random Matrix Theory for Adversarially Robust Vision-Language Models
von: Darabi, Nastaran, et al.
Veröffentlicht: (2025)

EigenTrack: Spectral Activation Feature Tracking for Hallucination and Out-of-Distribution Detection in LLMs and VLMs
von: Ettori, Davide, et al.
Veröffentlicht: (2025)

Causal-Guided Dimension Reduction for Efficient Pareto Optimization
von: Jayasuriya, Dinithi, et al.
Veröffentlicht: (2025)

Beyond Confidence: Adaptive Abstention in Dual-Threshold Conformal Prediction for Autonomous System Perception
von: Kumar, Divake, et al.
Veröffentlicht: (2025)

Belief Dynamics for Detecting Behavioral Shifts in Safe Collaborative Manipulation
von: Naik, Devashri, et al.
Veröffentlicht: (2026)

Neural Precision Polarization: Simplifying Neural Network Inference with Dual-Level Precision
von: Jayasuriya, Dinithi, et al.
Veröffentlicht: (2024)

ProGAL-VLA: Grounded Alignment through Prospective Reasoning in Vision-Language-Action Models
von: Darabi, Nastaran, et al.
Veröffentlicht: (2026)

Spectral Geometry for Deep Learning: Compression and Hallucination Detection via Random Matrix Theory
von: Ettori, Davide
Veröffentlicht: (2026)

Structure and Redundancy in Large Language Models: A Spectral Study via Random Matrix Theory
von: Ettori, Davide
Veröffentlicht: (2026)

Learning Conformal Abstention Policies for Adaptive Risk Management in Large Language and Vision-Language Models
von: Tayebati, Sina, et al.
Veröffentlicht: (2025)

TRACER: Trajectory Risk Aggregation for Critical Episodes in Agentic Reasoning
von: Tayebati, Sina, et al.
Veröffentlicht: (2026)

SPARC: Subspace-Aware Prompt Adaptation for Robust Continual Learning in LLMs
von: Jayasuriya, Dinithi, et al.
Veröffentlicht: (2025)

INTACT: Inducing Noise Tolerance through Adversarial Curriculum Training for LiDAR-based Safety-Critical Perception and Autonomy
von: Darabi, Nastaran, et al.
Veröffentlicht: (2025)

BicKD: Bilateral Contrastive Knowledge Distillation
von: Zhu, Jiangnan, et al.
Veröffentlicht: (2026)

ShiftKD: Benchmarking Knowledge Distillation under Distribution Shift
von: Zhang, Songming, et al.
Veröffentlicht: (2023)

FlyKD: Graph Knowledge Distillation on the Fly with Curriculum Learning
von: Ku, Eugene
Veröffentlicht: (2024)

TuneShift-KD: Knowledge Distillation and Transfer for Fine-tuned Models
von: Guan, Yushi, et al.
Veröffentlicht: (2026)

S^2-KD: Semantic-Spectral Knowledge Distillation Spatiotemporal Forecasting
von: Wang, Wenshuo, et al.
Veröffentlicht: (2025)

Enhancing 3D Robotic Vision Robustness by Minimizing Adversarial Mutual Information through a Curriculum Training Approach
von: Darabi, Nastaran, et al.
Veröffentlicht: (2024)

SFedKD: Sequential Federated Learning with Discrepancy-Aware Multi-Teacher Knowledge Distillation
von: Xu, Haotian, et al.
Veröffentlicht: (2025)

Intelligent Sensing-to-Action for Robust Autonomy at the Edge: Opportunities and Challenges
von: Trivedi, Amit Ranjan, et al.
Veröffentlicht: (2025)

CLIP-Embed-KD: Computationally Efficient Knowledge Distillation Using Embeddings as Teachers
von: Nair, Lakshmi
Veröffentlicht: (2024)

FedeKD: Energy-Based Gating for Robust Federated Knowledge Distillation under Heterogeneous Settings
von: Nguyen, Quang-Huy, et al.
Veröffentlicht: (2026)

AI-KD: Adversarial learning and Implicit regularization for self-Knowledge Distillation
von: Kim, Hyungmin, et al.
Veröffentlicht: (2022)

An Empirical Investigation into the Effect of Parameter Choices in Knowledge Distillation
von: Sultan, Md Arafat, et al.
Veröffentlicht: (2024)

C2G-KD: PCA-Constrained Generator for Data-Free Knowledge Distillation
von: Bengtsson, Magnus, et al.
Veröffentlicht: (2025)

TabKD: Tabular Knowledge Distillation through Interaction Diversity of Learned Feature Bins
von: Pereira, Shovon Niverd, et al.
Veröffentlicht: (2026)

AdaKD: Dynamic Knowledge Distillation of ASR models using Adaptive Loss Weighting
von: Ganguly, Shreyan, et al.
Veröffentlicht: (2024)

Adv-KD: Adversarial Knowledge Distillation for Faster Diffusion Sampling
von: Mekonnen, Kidist Amde, et al.
Veröffentlicht: (2024)

MTL-KD: Multi-Task Learning Via Knowledge Distillation for Generalizable Neural Vehicle Routing Solver
von: Zheng, Yuepeng, et al.
Veröffentlicht: (2025)

HPM-KD: Hierarchical Progressive Multi-Teacher Framework for Knowledge Distillation and Efficient Model Compression
von: Haase, Gustavo Coelho, et al.
Veröffentlicht: (2025)

MemKD: Memory-Discrepancy Knowledge Distillation for Efficient Time Series Classification
von: Udayangani, Nilushika, et al.
Veröffentlicht: (2026)

m2mKD: Module-to-Module Knowledge Distillation for Modular Transformers
von: Lo, Ka Man, et al.
Veröffentlicht: (2024)

DeepKD: A Deeply Decoupled and Denoised Knowledge Distillation Trainer
von: Huang, Haiduo, et al.
Veröffentlicht: (2025)

R-LAM: Reproducibility-Constrained Large Action Models for Scientific Workflow Automation
von: Sureshkumar, Suriya
Veröffentlicht: (2026)

Theoretical Guarantees for Causal Discovery on Large Random Graphs
von: Chevalley, Mathieu, et al.
Veröffentlicht: (2025)

AuG-KD: Anchor-Based Mixup Generation for Out-of-Domain Knowledge Distillation
von: Tang, Zihao, et al.
Veröffentlicht: (2024)

Information-Theoretic Criteria for Knowledge Distillation in Multimodal Learning
von: Xie, Rongrong, et al.
Veröffentlicht: (2025)

KD-OCT: Efficient Knowledge Distillation for Clinical-Grade Retinal OCT Classification
von: Nourbakhsh, Erfan, et al.
Veröffentlicht: (2025)

KD-PINN: Knowledge-Distilled PINNs for ultra-low-latency real-time neural PDE solvers
von: Bounja, Karim, et al.
Veröffentlicht: (2025)