Buchumschlag

Steered Generation via Gradient-Based Optimization on Sparse Query Features

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Bhattacharyya, Sumanta, Rooshenas, Pedram
Format:	Preprint
Veröffentlicht:	2026
Schlagworte:	Machine Learning
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Steered Generation via Gradient Descent on Sparse Features
von: Bhattacharyya, Sumanta, et al.
Veröffentlicht: (2025)

TARO: Temporal Adversarial Rectification Optimization Using Diffusion Models as Purifiers
von: Wesego, Daniel, et al.
Veröffentlicht: (2026)

Score-Based Multimodal Autoencoder
von: Wesego, Daniel, et al.
Veröffentlicht: (2023)

Audited Reasoning Refinement: Fine-Tuning Language Models via LLM-Guided Step-Wise Evaluation and Correction
von: Bhattacharyya, Sumanta, et al.
Veröffentlicht: (2025)

Multimodal ELBO with Diffusion Decoders
von: Wesego, Daniel, et al.
Veröffentlicht: (2024)

CorrSteer: Generation-Time LLM Steering via Correlated Sparse Autoencoder Features
von: Cho, Seonglae, et al.
Veröffentlicht: (2025)

On the Complexity of Learning Sparse Functions with Statistical and Gradient Queries
von: Joshi, Nirmit, et al.
Veröffentlicht: (2024)

Activation Steering for Chain-of-Thought Compression
von: Azizi, Seyedarmin, et al.
Veröffentlicht: (2025)

Improving Steering Vectors by Targeting Sparse Autoencoder Features
von: Chalnev, Sviatoslav, et al.
Veröffentlicht: (2024)

Steering Large Agent Populations using Mean-Field Schrodinger Bridges with Gaussian Mixture Models
von: Rapakoulias, George, et al.
Veröffentlicht: (2025)

Differentially Private Optimization with Sparse Gradients
von: Ghazi, Badih, et al.
Veröffentlicht: (2024)

LLM-Driven Feedback for Enhancing Conceptual Design Learning in Database Systems Courses
von: Riazi, Sara, et al.
Veröffentlicht: (2024)

Steering Language Model Refusal with Sparse Autoencoders
von: O'Brien, Kyle, et al.
Veröffentlicht: (2024)

Gradient Compressed Sensing: A Query-Efficient Gradient Estimator for High-Dimensional Zeroth-Order Optimization
von: Qiu, Ruizhong, et al.
Veröffentlicht: (2024)

On Optimal Steering to Achieve Exact Fairness
von: Sharma, Mohit, et al.
Veröffentlicht: (2025)

Enhancing LLM Steering through Sparse Autoencoder-Based Vector Refinement
von: Wang, Anyi, et al.
Veröffentlicht: (2025)

Statistical Perspective of Top-K Sparse Softmax Gating Mixture of Experts
von: Nguyen, Huy, et al.
Veröffentlicht: (2023)

Density based Spatial Clustering of Lines via Probabilistic Generation of Neighbourhood
von: Das, Akanksha, et al.
Veröffentlicht: (2024)

Training-Free Query Optimization via LLM-Based Plan Similarity
von: Vasilenko, Nikita, et al.
Veröffentlicht: (2025)

Beyond Static Datasets: Robust Offline Policy Optimization via Vetted Synthetic Transitions
von: Agand, Pedram, et al.
Veröffentlicht: (2026)

Matching the Statistical Query Lower Bound for $k$-Sparse Parity Problems with Sign Stochastic Gradient Descent
von: Kou, Yiwen, et al.
Veröffentlicht: (2024)

Euphonium: Steering Video Flow Matching via Process Reward Gradient Guided Stochastic Dynamics
von: Zhong, Ruizhe, et al.
Veröffentlicht: (2026)

LangFIR: Discovering Sparse Language-Specific Features from Monolingual Data for Language Steering
von: Wong, Sing Hieng, et al.
Veröffentlicht: (2026)

Steering Generative Models with Experimental Data for Protein Fitness Optimization
von: Yang, Jason, et al.
Veröffentlicht: (2025)

Joint Representation Learning and Clustering via Gradient-Based Manifold Optimization
von: Liu, Sida, et al.
Veröffentlicht: (2026)

Token-level Proximal Policy Optimization for Query Generation
von: Ouyang, Yichen, et al.
Veröffentlicht: (2024)

Scalable Principal-Agent Contract Design via Gradient-Based Optimization
von: Galanti, Tomer, et al.
Veröffentlicht: (2025)

Interpreting and Steering Protein Language Models through Sparse Autoencoders
von: Garcia, Edith Natalia Villegas, et al.
Veröffentlicht: (2025)

Control Reinforcement Learning: Interpretable Token-Level Steering of LLMs via Sparse Autoencoder Features
von: Cho, Seonglae, et al.
Veröffentlicht: (2026)

Steering Large Language Model Activations in Sparse Spaces
von: Bayat, Reza, et al.
Veröffentlicht: (2025)

Graph-Regularized Sparse Autoencoders for LLM Safety Steering
von: Yeon, Jehyeok, et al.
Veröffentlicht: (2025)

Offline RL via Feature-Occupancy Gradient Ascent
von: Neu, Gergely, et al.
Veröffentlicht: (2024)

The Geometry of Queries: Query-Based Innovations in Retrieval-Augmented Generation for Healthcare QA
von: Yang, Eric, et al.
Veröffentlicht: (2024)

Adversarial Query Synthesis via Bayesian Optimization
von: Tao, Jeffrey, et al.
Veröffentlicht: (2026)

A Scalable Gradient-Based Optimization Framework for Sparse Minimum-Variance Portfolio Selection
von: Moka, Sarat, et al.
Veröffentlicht: (2025)

A Truly Sparse and General Implementation of Gradient-Based Synaptic Plasticity
von: Lohoff, Jamie, et al.
Veröffentlicht: (2025)

When the Coffee Feature Activates on Coffins: An Analysis of Feature Extraction and Steering for Mechanistic Interpretability
von: Ronge, Raphael, et al.
Veröffentlicht: (2026)

Steering LVLMs via Sparse Autoencoder for Hallucination Mitigation
von: Hua, Zhenglin, et al.
Veröffentlicht: (2025)

Robust Inference-Time Steering of Protein Diffusion Models via Embedding Optimization
von: Li, Minhuan, et al.
Veröffentlicht: (2026)

Stochastic Gradient Descent with Strategic Querying
von: Jiang, Nanfei, et al.
Veröffentlicht: (2025)