Buchumschlag

Why Fine-Tuning Encourages Hallucinations and How to Fix It

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Kaplan, Guy, Gekhman, Zorik, Zhu, Zhen, Rozner, Lotem, Reif, Yuval, Swayamdipta, Swabha, Hoiem, Derek, Schwartz, Roy
Format:	Preprint
Veröffentlicht:	2026
Schlagworte:	Computation and Language Artificial Intelligence Machine Learning Neural and Evolutionary Computing
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Fine-Tuning Surrogate Gradient Learning for Optimal Hardware Performance in Spiking Neural Networks
von: Aliyev, Ilkin, et al.
Veröffentlicht: (2024)

Fixed-Parameter Tractability of the (1+1) Evolutionary Algorithm on Random Planted Vertex Covers
von: Kearney, Jack, et al.
Veröffentlicht: (2024)

Homeostatic Adaptation of Optimal Population Codes under Metabolic Stress
von: Hung, Yi-Chun, et al.
Veröffentlicht: (2025)

Fine Tuning Swimming Locomotion Learned from Mosquito Larvae
von: Rajbhandari, Pranav, et al.
Veröffentlicht: (2024)

A Theoretical Perspective on Why Stochastic Population Update Needs an Archive in Evolutionary Multi-objective Optimization
von: Ren, Shengjie, et al.
Veröffentlicht: (2025)

GRASP: GRouped Activation Shared Parameterization for Parameter-Efficient Fine-Tuning and Robust Inference of Transformers
von: Bal, Malyaban, et al.
Veröffentlicht: (2025)

Efficiently Tackling Million-Dimensional Multiobjective Problems: A Direction Sampling and Fine-Tuning Approach
von: Hong, Haokai, et al.
Veröffentlicht: (2023)

Time-Fair Benchmarking for Metaheuristics: A Restart-Fair Protocol for Fixed-Time Comparisons
von: Lian, Junbo Jacob
Veröffentlicht: (2025)

Multi-objective Binary Differential Approach with Parameter Tuning for Discovering Business Process Models: MoD-ProM
von: Deshmukh, Sonia, et al.
Veröffentlicht: (2024)

How Sequential Algorithm Portfolios can benefit Black Box Optimization
von: Dinu, Catalin-Viorel, et al.
Veröffentlicht: (2026)

Evolvable Agents, a Fine Grained Approach for Distributed Evolutionary Computing: Walking towards the Peer-to-Peer Computing Frontiers
von: Laredo, Juan Luis Jiménez, et al.
Veröffentlicht: (2024)

Composite Indicator-Guided Infilling Sampling for Expensive Multi-Objective Optimization
von: Zhen, Huixiang, et al.
Veröffentlicht: (2025)

Ternary Spiking Neural Networks Enhanced by Complemented Neurons and Membrane Potential Aggregation
von: Zhang, Boxuan, et al.
Veröffentlicht: (2026)

TSkips: Efficiency Through Explicit Temporal Delay Connections in Spiking Neural Networks
von: Malettira, Prajna G., et al.
Veröffentlicht: (2024)

Preserving Information: How does Topological Data Analysis improve Neural Network performance?
von: Stolarek, A., et al.
Veröffentlicht: (2024)

SHA-CNN: Scalable Hierarchical Aware Convolutional Neural Network for Edge AI
von: Dhakad, Narendra Singh, et al.
Veröffentlicht: (2024)

Proven Runtime Guarantees for How the MOEA/D Computes the Pareto Front From the Subproblem Solutions
von: Doerr, Benjamin, et al.
Veröffentlicht: (2024)

LLM4CMO: Large Language Model-aided Algorithm Design for Constrained Multiobjective Optimization
von: Chen, Zhen-Song, et al.
Veröffentlicht: (2025)

Walk the Robot: Exploring Soft Robotic Morphological Communication driven by Spiking Neural Networks
von: Meek, Matthew, et al.
Veröffentlicht: (2025)

Why Evolve When You Can Adapt? Post-Evolution Adaptation of Genetic Memory for On-the-Fly Control
von: Hammami, Hamze, et al.
Veröffentlicht: (2025)

Hyperbolic Fine-Tuning for Large Language Models
von: Yang, Menglin, et al.
Veröffentlicht: (2024)

Does Fine-Tuning LLMs on New Knowledge Encourage Hallucinations?
von: Gekhman, Zorik, et al.
Veröffentlicht: (2024)

A Genetic Algorithm for Multi-Capacity Fixed-Charge Flow Network Design
von: Eardley, Caleb, et al.
Veröffentlicht: (2024)

Fine-Tuning Language Models to Know What They Know
von: Park, Sangjun, et al.
Veröffentlicht: (2026)

RDEx-MOP: Indicator-Guided Reconstructed Differential Evolution for Fixed-Budget Multiobjective Optimization
von: Tao, Sichen, et al.
Veröffentlicht: (2026)

Why Prompt Optimization Works, and Why It Sometimes Doesn't: A Causal-Inspired Edit-Level Analysis
von: Gong, Shuzhi, et al.
Veröffentlicht: (2026)

From Tempered to Benign Overfitting in ReLU Neural Networks
von: Kornowski, Guy, et al.
Veröffentlicht: (2023)

Evolution Strategies at Scale: LLM Fine-Tuning Beyond Reinforcement Learning
von: Qiu, Xin, et al.
Veröffentlicht: (2025)

How Fly Neural Perception Mechanisms Enhance Visuomotor Control of Micro Robots
von: Liu, Renyuan, et al.
Veröffentlicht: (2025)

Parameter-Efficient Fine-Tuning of LLMs with Mixture of Space Experts
von: Zhang, Buze, et al.
Veröffentlicht: (2026)

RDEx-CMOP: Feasibility-Aware Indicator-Guided Differential Evolution for Fixed-Budget Constrained Multiobjective Optimization
von: Tao, Sichen, et al.
Veröffentlicht: (2026)

RDEx-SOP: Exploitation-Biased Reconstructed Differential Evolution for Fixed-Budget Bound-Constrained Single-Objective Optimization
von: Tao, Sichen, et al.
Veröffentlicht: (2026)

A Practical Guide to Tuning Spiking Neuronal Dynamics
von: Gebhardt, William, et al.
Veröffentlicht: (2025)

A Wachspress-based transfinite formulation for exactly enforcing Dirichlet boundary conditions on convex polygonal domains in physics-informed neural networks
von: Sukumar, N., et al.
Veröffentlicht: (2026)

Fine-Tuning and Evaluating Open-Source Large Language Models for the Army Domain
von: Ruiz, Daniel C., et al.
Veröffentlicht: (2024)

Fast and robust parametric and functional learning with Hybrid Genetic Optimisation (HyGO)
von: Robledo, Isaac, et al.
Veröffentlicht: (2025)

Tuning Synaptic Connections instead of Weights by Genetic Algorithm in Spiking Policy Network
von: Zhang, Duzhen, et al.
Veröffentlicht: (2022)

Tuning the Weights: The Impact of Initial Matrix Configurations on Successor Features Learning Efficacy
von: Lee, Hyunsu
Veröffentlicht: (2021)

Generalization-Memorization Machines
von: Wang, Zhen, et al.
Veröffentlicht: (2022)

Multi Part Deployment of Neural Network
von: Ranjan, Paritosh, et al.
Veröffentlicht: (2025)