It Takes a Good Model to Train a Good Model: Generalized Gaussian Priors for Optimized LLMs
Fuente:
arXiv
Gespeichert in:
| Hauptverfasser: | Wu, Jun, Huang, Patrick, Wen, Jiangtao, Han, Yuxing |
|---|---|
| Format: | Preprint |
| Veröffentlicht: |
2025
|
| Schlagworte: | |
| Online-Zugang: | |
| Tags: |
Tag hinzufügen
Keine Tags, Fügen Sie den ersten Tag hinzu!
|
Ähnliche Einträge
BackSlash: Rate Constrained Optimized Training of Large Language Models
von: Wu, Jun, et al.
Veröffentlicht: (2025)
von: Wu, Jun, et al.
Veröffentlicht: (2025)
Deconstructing What Makes a Good Optimizer for Language Models
von: Zhao, Rosie, et al.
Veröffentlicht: (2024)
von: Zhao, Rosie, et al.
Veröffentlicht: (2024)
Ambient Diffusion Omni: Training Good Models with Bad Data
von: Daras, Giannis, et al.
Veröffentlicht: (2025)
von: Daras, Giannis, et al.
Veröffentlicht: (2025)
How Good Are LLMs at Processing Tool Outputs?
von: Kate, Kiran, et al.
Veröffentlicht: (2025)
von: Kate, Kiran, et al.
Veröffentlicht: (2025)
What Makes a Reward Model a Good Teacher? An Optimization Perspective
von: Razin, Noam, et al.
Veröffentlicht: (2025)
von: Razin, Noam, et al.
Veröffentlicht: (2025)
Large Language Models are Good Relational Learners
von: Wu, Fang, et al.
Veröffentlicht: (2025)
von: Wu, Fang, et al.
Veröffentlicht: (2025)
Are LLMs Good Cryptic Crossword Solvers?
von: Sadallah, Abdelrahman, et al.
Veröffentlicht: (2024)
von: Sadallah, Abdelrahman, et al.
Veröffentlicht: (2024)
GoodDrag: Towards Good Practices for Drag Editing with Diffusion Models
von: Zhang, Zewei, et al.
Veröffentlicht: (2024)
von: Zhang, Zewei, et al.
Veröffentlicht: (2024)
What Makes a Good Diffusion Planner for Decision Making?
von: Lu, Haofei, et al.
Veröffentlicht: (2025)
von: Lu, Haofei, et al.
Veröffentlicht: (2025)
Generative Multi-modal Models are Good Class-Incremental Learners
von: Cao, Xusheng, et al.
Veröffentlicht: (2024)
von: Cao, Xusheng, et al.
Veröffentlicht: (2024)
Amazing Things Come From Having Many Good Models
von: Rudin, Cynthia, et al.
Veröffentlicht: (2024)
von: Rudin, Cynthia, et al.
Veröffentlicht: (2024)
Greed is Good: A Unifying Perspective on Guided Generation
von: Blasingame, Zander W., et al.
Veröffentlicht: (2025)
von: Blasingame, Zander W., et al.
Veröffentlicht: (2025)
When Bad Data Leads to Good Models
von: Li, Kenneth, et al.
Veröffentlicht: (2025)
von: Li, Kenneth, et al.
Veröffentlicht: (2025)
Simple, Good, Fast: Self-Supervised World Models Free of Baggage
von: Robine, Jan, et al.
Veröffentlicht: (2025)
von: Robine, Jan, et al.
Veröffentlicht: (2025)
Inductive Models for Artificial Intelligence Systems are Insufficient without Good Explanations
von: Habaraduwa, Udesh
Veröffentlicht: (2024)
von: Habaraduwa, Udesh
Veröffentlicht: (2024)
Vertical Federated Learning in Practice: The Good, the Bad, and the Ugly
von: Wu, Zhaomin, et al.
Veröffentlicht: (2025)
von: Wu, Zhaomin, et al.
Veröffentlicht: (2025)
When Good Equations Get Bad Scores: Improving Symbolic Regression Through Better Parameter Optimization
von: Wang, Boxiao, et al.
Veröffentlicht: (2026)
von: Wang, Boxiao, et al.
Veröffentlicht: (2026)
An Epistemic and Aleatoric Decomposition of Arbitrariness to Constrain the Set of Good Models
von: Khan, Falaah Arif, et al.
Veröffentlicht: (2023)
von: Khan, Falaah Arif, et al.
Veröffentlicht: (2023)
Comparing Bad Apples to Good Oranges: Aligning Large Language Models via Joint Preference Optimization
von: Bansal, Hritik, et al.
Veröffentlicht: (2024)
von: Bansal, Hritik, et al.
Veröffentlicht: (2024)
FADE: Why Bad Descriptions Happen to Good Features
von: Puri, Bruno, et al.
Veröffentlicht: (2025)
von: Puri, Bruno, et al.
Veröffentlicht: (2025)
Optimizer-Model Consistency: Full Finetuning with the Same Optimizer as Pretraining Forgets Less
von: Liu, Yuxing, et al.
Veröffentlicht: (2026)
von: Liu, Yuxing, et al.
Veröffentlicht: (2026)
Simulation, Modelling and Classification of Wiki Contributors: Spotting The Good, The Bad, and The Ugly
von: Méndez, Silvia García, et al.
Veröffentlicht: (2024)
von: Méndez, Silvia García, et al.
Veröffentlicht: (2024)
AfroBench: How Good are Large Language Models on African Languages?
von: Ojo, Jessica, et al.
Veröffentlicht: (2023)
von: Ojo, Jessica, et al.
Veröffentlicht: (2023)
Hybrid Attribution Priors for Explainable and Robust Model Training
von: Zhang, Zhuoran, et al.
Veröffentlicht: (2025)
von: Zhang, Zhuoran, et al.
Veröffentlicht: (2025)
An Imperfect Verifier is Good Enough: Learning with Noisy Rewards
von: Plesner, Andreas, et al.
Veröffentlicht: (2026)
von: Plesner, Andreas, et al.
Veröffentlicht: (2026)
One-shot World Models Using a Transformer Trained on a Synthetic Prior
von: Ferreira, Fabio, et al.
Veröffentlicht: (2024)
von: Ferreira, Fabio, et al.
Veröffentlicht: (2024)
Generalizable Heuristic Generation Through LLMs with Meta-Optimization
von: Shi, Yiding, et al.
Veröffentlicht: (2025)
von: Shi, Yiding, et al.
Veröffentlicht: (2025)
Large Language Models Are Latent Variable Models: Explaining and Finding Good Demonstrations for In-Context Learning
von: Wang, Xinyi, et al.
Veröffentlicht: (2023)
von: Wang, Xinyi, et al.
Veröffentlicht: (2023)
Too Good to be True? Turn Any Model Differentially Private With DP-Weights
von: Zagardo, David
Veröffentlicht: (2024)
von: Zagardo, David
Veröffentlicht: (2024)
MC-GTA: Metric-Constrained Model-Based Clustering using Goodness-of-fit Tests with Autocorrelations
von: Wang, Zhangyu, et al.
Veröffentlicht: (2024)
von: Wang, Zhangyu, et al.
Veröffentlicht: (2024)
Are Synthetic Time-series Data Really not as Good as Real Data?
von: Fu, Fanzhe, et al.
Veröffentlicht: (2024)
von: Fu, Fanzhe, et al.
Veröffentlicht: (2024)
Adaptive Multi-Scale Goodness Aggregation for Forward-Forward Learning
von: Beigzad, Salar, et al.
Veröffentlicht: (2026)
von: Beigzad, Salar, et al.
Veröffentlicht: (2026)
DAOpt: Modeling and Evaluation of Data-Driven Optimization under Uncertainty with LLMs
von: Zhu, WenZhuo, et al.
Veröffentlicht: (2025)
von: Zhu, WenZhuo, et al.
Veröffentlicht: (2025)
What Makes a Good Curriculum? Disentangling the Effects of Data Ordering on LLM Mathematical Reasoning
von: Jia, Yaning, et al.
Veröffentlicht: (2025)
von: Jia, Yaning, et al.
Veröffentlicht: (2025)
Heuristic Methods are Good Teachers to Distill MLPs for Graph Link Prediction
von: Qin, Zongyue, et al.
Veröffentlicht: (2025)
von: Qin, Zongyue, et al.
Veröffentlicht: (2025)
Imitate the Good and Avoid the Bad: An Incremental Approach to Safe Reinforcement Learning
von: Hoang, Huy, et al.
Veröffentlicht: (2023)
von: Hoang, Huy, et al.
Veröffentlicht: (2023)
Bad Values but Good Behavior: Learning Highly Misspecified Bandits and MDPs
von: Banerjee, Debangshu, et al.
Veröffentlicht: (2023)
von: Banerjee, Debangshu, et al.
Veröffentlicht: (2023)
Intelligently Weighting Multiple Reference Models for Direct Preference Optimization of LLMs
von: Wu, Skyler, et al.
Veröffentlicht: (2025)
von: Wu, Skyler, et al.
Veröffentlicht: (2025)
Recommender Systems for Good (RS4Good): Survey of Use Cases and a Call to Action for Research that Matters
von: Jannach, Dietmar, et al.
Veröffentlicht: (2024)
von: Jannach, Dietmar, et al.
Veröffentlicht: (2024)
GWT: Scalable Optimizer State Compression for Large Language Model Training
von: Wen, Ziqing, et al.
Veröffentlicht: (2025)
von: Wen, Ziqing, et al.
Veröffentlicht: (2025)
Ähnliche Einträge
-
BackSlash: Rate Constrained Optimized Training of Large Language Models
von: Wu, Jun, et al.
Veröffentlicht: (2025) -
Deconstructing What Makes a Good Optimizer for Language Models
von: Zhao, Rosie, et al.
Veröffentlicht: (2024) -
Ambient Diffusion Omni: Training Good Models with Bad Data
von: Daras, Giannis, et al.
Veröffentlicht: (2025) -
How Good Are LLMs at Processing Tool Outputs?
von: Kate, Kiran, et al.
Veröffentlicht: (2025) -
What Makes a Reward Model a Good Teacher? An Optimization Perspective
von: Razin, Noam, et al.
Veröffentlicht: (2025)