Buchumschlag

Mol-MoE: Training Preference-Guided Routers for Molecule Generation

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Calanzone, Diego, D'Oro, Pierluca, Bacon, Pierre-Luc
Format:	Preprint
Veröffentlicht:	2025
Schlagworte:	Machine Learning
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Do Transformer World Models Give Better Policy Gradients?
von: Ma, Michel, et al.
Veröffentlicht: (2024)

Policy Optimization in a Noisy Neighborhood: On Return Landscapes in Continuous Control
von: Rahn, Nate, et al.
Veröffentlicht: (2023)

Maxwell's Demon at Work: Efficient Pruning by Leveraging Saturation of Neurons
von: Dufort-Labbé, Simon, et al.
Veröffentlicht: (2024)

Discovery of Sustainable Refrigerants through Physics-Informed RL Fine-Tuning of Sequence Models
von: Goldszal, Adrien, et al.
Veröffentlicht: (2025)

The Curse of Diversity in Ensemble-Based Exploration
von: Lin, Zhixuan, et al.
Veröffentlicht: (2024)

Towards General-Purpose Model-Free Reinforcement Learning
von: Fujimoto, Scott, et al.
Veröffentlicht: (2025)

ADEPTS: A Capability Framework for Human-Centered Agent Design
von: D'Oro, Pierluca, et al.
Veröffentlicht: (2025)

GW-MoE: Resolving Uncertainty in MoE Router with Global Workspace Theory
von: Wu, Haoze, et al.
Veröffentlicht: (2024)

Stabilizing MoE Reinforcement Learning by Aligning Training and Inference Routers
von: Ma, Wenhan, et al.
Veröffentlicht: (2025)

MaestroMotif: Skill Design from Artificial Intelligence Feedback
von: Klissarov, Martin, et al.
Veröffentlicht: (2024)

Turn Waste into Worth: Rectifying Top-$k$ Router of MoE
von: Zeng, Zhiyuan, et al.
Veröffentlicht: (2024)

Is Retraining-Free Enough? The Necessity of Router Calibration for Efficient MoE Compression
von: Hyeon, Sieun, et al.
Veröffentlicht: (2026)

Hierarchical Behaviour Spaces
von: Matthews, Michael Tryfan, et al.
Veröffentlicht: (2026)

Optimizing MoE Routers: Design, Implementation, and Evaluation in Transformer Models
von: Harvey, Daniel Fidel, et al.
Veröffentlicht: (2025)

MoE-Sieve: Routing-Guided LoRA for Efficient MoE Fine-Tuning
von: Manzoni, Andrea
Veröffentlicht: (2026)

ROMER: Expert Replacement and Router Calibration for Robust MoE LLMs on Analog Compute-in-Memory Systems
von: Zhou, Wenyong, et al.
Veröffentlicht: (2026)

Controlling Multimodal LLMs via Reward-guided Decoding
von: Mañas, Oscar, et al.
Veröffentlicht: (2025)

Towards Logically Consistent Language Models via Probabilistic Reasoning
von: Calanzone, Diego, et al.
Veröffentlicht: (2024)

ReLibra: Routing-Replay-Guided Load Balancing for MoE Training in Reinforcement Learning
von: Jin, Chao, et al.
Veröffentlicht: (2026)

Muon: Training and Trade-offs with Latent Attention and MoE
von: Mehta, Sushant, et al.
Veröffentlicht: (2025)

EMO: Frustratingly Easy Progressive Training of Extendable MoE
von: Jin, Linghao, et al.
Veröffentlicht: (2026)

Logically Consistent Language Models via Neuro-Symbolic Integration
von: Calanzone, Diego, et al.
Veröffentlicht: (2024)

Symmetry-Compatible Principle for Optimizer Design: Embeddings, LM Heads, SwiGLU MLPs, and MoE Routers
von: Lau, Tim Tsz-Kit, et al.
Veröffentlicht: (2026)

MoE-Pruner: Pruning Mixture-of-Experts Large Language Model using the Hints from Its Router
von: Xie, Yanyue, et al.
Veröffentlicht: (2024)

PASs-MoE: Mitigating Misaligned Co-drift among Router and Experts via Pathway Activation Subspaces for Continual Learning
von: Hou, Zhiyan, et al.
Veröffentlicht: (2026)

MoE-PHDS: One MoE checkpoint for flexible runtime sparsity
von: Hannah, Lauren. A, et al.
Veröffentlicht: (2025)

Mol-CADiff: Causality-Aware Autoregressive Diffusion for Molecule Generation
von: Ahamed, Md Atik, et al.
Veröffentlicht: (2025)

MoE Parallel Folding: Heterogeneous Parallelism Mappings for Efficient Large-Scale MoE Model Training with Megatron Core
von: Liu, Dennis, et al.
Veröffentlicht: (2025)

MoE-Infinity: Efficient MoE Inference on Personal Machines with Sparsity-Aware Expert Cache
von: Xue, Leyang, et al.
Veröffentlicht: (2024)

Revisiting MoE and Dense Speed-Accuracy Comparisons for LLM Training
von: Du, Xianzhi, et al.
Veröffentlicht: (2024)

Grouter: Decoupling Routing from Representation for Accelerated MoE Training
von: Xu, Yuqi, et al.
Veröffentlicht: (2026)

BitsMoE: Efficient Spectral Energy-Guided Bit Allocation for MoE LLM Quantization
von: Zhao, Jiayu, et al.
Veröffentlicht: (2026)

VecMol: Vector-Field Representations for 3D Molecule Generation
von: Hua, Yuchen, et al.
Veröffentlicht: (2026)

Decoupling regularization from the action space
von: Mohammadpour, Sobhan, et al.
Veröffentlicht: (2024)

ReMoE: Boosting Expert Reuse through Router Fine-Tuning in Memory-Constrained MoE LLM Inference
von: Zhu, Xiongwei, et al.
Veröffentlicht: (2026)

MoE-GPS: Guidlines for Prediction Strategy for Dynamic Expert Duplication in MoE Load Balancing
von: Ma, Haiyue, et al.
Veröffentlicht: (2025)

Horseshoe Mixtures-of-Experts (HS-MoE)
von: Polson, Nick, et al.
Veröffentlicht: (2026)

HierMoE: Accelerating MoE Training with Hierarchical Token Deduplication and Expert Swap
von: Lin, Wenxiang, et al.
Veröffentlicht: (2025)

LocMoE: A Low-Overhead MoE for Large Language Model Training
von: Li, Jing, et al.
Veröffentlicht: (2024)

MP-MoE: Matrix Profile-Guided Mixture of Experts for Precipitation Forecasting
von: Tran, Huyen Ngoc, et al.
Veröffentlicht: (2026)