Buchumschlag

A Teacher-Free Graph Knowledge Distillation Framework with Dual Self-Distillation

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Wu, Lirong, Lin, Haitao, Gao, Zhangyang, Zhao, Guojiang, Li, Stan Z.
Format:	Preprint
Veröffentlicht:	2024
Schlagworte:	Machine Learning
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Learning to Model Graph Structural Information on MLPs via Graph Structure Self-Contrasting
von: Wu, Lirong, et al.
Veröffentlicht: (2024)

Teach Harder, Learn Poorer: Rethinking Hard Sample Distillation for GNN-to-MLP Knowledge Distillation
von: Wu, Lirong, et al.
Veröffentlicht: (2024)

A Simple yet Effective DDG Predictor is An Unsupervised Antibody Optimizer and Explainer
von: Wu, Lirong, et al.
Veröffentlicht: (2025)

Decoupling Weighing and Selecting for Integrating Multiple Graph Pre-training Tasks
von: Fan, Tianyu, et al.
Veröffentlicht: (2024)

An Empirical Study: Extensive Deep Temporal Point Process
von: Lin, Haitao, et al.
Veröffentlicht: (2021)

Adversarial Curriculum Graph-Free Knowledge Distillation for Graph Neural Networks
von: Jia, Yuang, et al.
Veröffentlicht: (2025)

CBGBench: Fill in the Blank of Protein-Molecule Complex Binding Graph
von: Lin, Haitao, et al.
Veröffentlicht: (2024)

Relation-Aware Equivariant Graph Networks for Epitope-Unknown Antibody Design and Specificity Optimization
von: Wu, Lirong, et al.
Veröffentlicht: (2024)

PSC-CPI: Multi-Scale Protein Sequence-Structure Contrasting for Efficient and Generalizable Compound-Protein Interaction Prediction
von: Wu, Lirong, et al.
Veröffentlicht: (2024)

Toward Fair Graph Neural Networks Via Dual-Teacher Knowledge Distillation
von: Li, Chengyu, et al.
Veröffentlicht: (2024)

Re-Dock: Towards Flexible and Realistic Molecular Docking with Diffusion Bridge
von: Huang, Yufei, et al.
Veröffentlicht: (2024)

FoldToken: Learning Protein Language via Vector Quantization and Beyond
von: Gao, Zhangyang, et al.
Veröffentlicht: (2024)

Enhancing Protein Predictive Models via Proteins Data Augmentation: A Benchmark and New Directions
von: Sun, Rui, et al.
Veröffentlicht: (2024)

Dual-Forward Path Teacher Knowledge Distillation: Bridging the Capacity Gap Between Teacher and Student
von: Li, Tong, et al.
Veröffentlicht: (2025)

FoldToken2: Learning compact, invariant and generative protein structure language
von: Gao, Zhangyang, et al.
Veröffentlicht: (2024)

On-the-Fly Adaptive Distillation of Transformer to Dual-State Linear Attention
von: Ro, Yeonju, et al.
Veröffentlicht: (2025)

SimVPv2: Towards Simple yet Powerful Spatiotemporal Predictive Learning
von: Tan, Cheng, et al.
Veröffentlicht: (2022)

Distill to Delete: Unlearning in Graph Networks with Knowledge Distillation
von: Sinha, Yash, et al.
Veröffentlicht: (2023)

Adversarial Dual On-Policy Distillation from Expressive Teacher
von: Wan, Zhenglin, et al.
Veröffentlicht: (2026)

Deep Manifold Graph Auto-Encoder for Attributed Graph Embedding
von: Hu, Bozhen, et al.
Veröffentlicht: (2024)

Functional-Group-Based Diffusion for Pocket-Specific Molecule Generation and Elaboration
von: Lin, Haitao, et al.
Veröffentlicht: (2023)

Less or More From Teacher: Exploiting Trilateral Geometry For Knowledge Distillation
von: Hu, Chengming, et al.
Veröffentlicht: (2023)

MST-Distill: Mixture of Specialized Teachers for Cross-Modal Knowledge Distillation
von: Li, Hui, et al.
Veröffentlicht: (2025)

Teacher as a Lenient Expert: Teacher-Agnostic Data-Free Knowledge Distillation
von: Shin, Hyunjune, et al.
Veröffentlicht: (2024)

A Graph is Worth $K$ Words: Euclideanizing Graph using Pure Transformer
von: Gao, Zhangyang, et al.
Veröffentlicht: (2024)

How to Train the Teacher Model for Effective Knowledge Distillation
von: Hamidi, Shayan Mohajer, et al.
Veröffentlicht: (2024)

Hyper-modal Imputation Diffusion Embedding with Dual-Distillation for Federated Multimodal Knowledge Graph Completion
von: Zhang, Ying, et al.
Veröffentlicht: (2025)

MAPE-PPI: Towards Effective and Efficient Protein-Protein Interaction Prediction via Microenvironment-Aware Protein Embedding
von: Wu, Lirong, et al.
Veröffentlicht: (2024)

FGAD: Self-boosted Knowledge Distillation for An Effective Federated Graph Anomaly Detection Framework
von: Cai, Jinyu, et al.
Veröffentlicht: (2024)

UniIF: Unified Molecule Inverse Folding
von: Gao, Zhangyang, et al.
Veröffentlicht: (2024)

MeToken: Uniform Micro-environment Token Boosts Post-Translational Modification Prediction
von: Tan, Cheng, et al.
Veröffentlicht: (2024)

FedDTG:Federated Data-Free Knowledge Distillation via Three-Player Generative Adversarial Networks
von: Gao, Lingzhi, et al.
Veröffentlicht: (2022)

Knowledge Distillation in Federated Edge Learning: A Survey
von: Wu, Zhiyuan, et al.
Veröffentlicht: (2023)

Prompt Candidates, then Distill: A Teacher-Student Framework for LLM-driven Data Annotation
von: Xia, Mingxuan, et al.
Veröffentlicht: (2025)

Generalizing Teacher Networks for Effective Knowledge Distillation Across Student Architectures
von: Binici, Kuluhan, et al.
Veröffentlicht: (2024)

Self-Supervised Quantization-Aware Knowledge Distillation
von: Zhao, Kaiqi, et al.
Veröffentlicht: (2024)

SGD-Based Knowledge Distillation with Bayesian Teachers: Theory and Guidelines
von: Morad, Itai, et al.
Veröffentlicht: (2026)

PPFlow: Target-aware Peptide Design with Torsional Flow Matching
von: Lin, Haitao, et al.
Veröffentlicht: (2024)

Robust Knowledge Distillation Based on Feature Variance Against Backdoored Teacher Model
von: Chen, Jinyin, et al.
Veröffentlicht: (2024)

The Role of Teacher Calibration in Knowledge Distillation
von: Kim, Suyoung, et al.
Veröffentlicht: (2025)