Buchumschlag

Scaling Textual Gradients via Sampling-Based Momentum

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Ding, Zixin, Hong, Junyuan, Shi, Zhan, Wang, Jiachen T., Lin, Zinan, Yin, Li, Liu, Meng, Wang, Zhangyang, Chen, Yuxin
Format:	Preprint
Veröffentlicht:	2025
Schlagworte:	Computation and Language Artificial Intelligence
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

DP-OPT: Make Large Language Model Your Privacy-Preserving Prompt Engineer
von: Hong, Junyuan, et al.
Veröffentlicht: (2023)

SEAL: Steerable Reasoning Calibration of Large Language Models for Free
von: Chen, Runjin, et al.
Veröffentlicht: (2025)

MedHallu: A Comprehensive Benchmark for Detecting Medical Hallucinations in Large Language Models
von: Pandit, Shrey, et al.
Veröffentlicht: (2025)

LoX: Low-Rank Extrapolation Robustifies LLM Safety Against Fine-tuning
von: Perin, Gabriel J., et al.
Veröffentlicht: (2025)

LLMs Can Get "Brain Rot": A Pilot Study on Twitter/X
von: Xing, Shuo, et al.
Veröffentlicht: (2025)

SPAM: Spike-Aware Adam with Momentum Reset for Stable LLM Training
von: Huang, Tianjin, et al.
Veröffentlicht: (2025)

Textual Self-attention Network: Test-Time Preference Optimization through Textual Gradient-based Attention
von: Mo, Shibing, et al.
Veröffentlicht: (2025)

OmniMoE: An Efficient MoE by Orchestrating Atomic Experts at Scale
von: Shi, Jingze, et al.
Veröffentlicht: (2026)

Empowering Large Language Models for Textual Data Augmentation
von: Li, Yichuan, et al.
Veröffentlicht: (2024)

SEP-Attack: A Simple and Effective Paradigm for Transfer-Based Textual Adversarial Attack
von: Liu, Han, et al.
Veröffentlicht: (2026)

Synthesize Privacy-Preserving High-Resolution Images via Private Textual Intermediaries
von: Wang, Haoxiang, et al.
Veröffentlicht: (2025)

Mixture of Universal Experts: Scaling Virtual Width via Depth-Width Transformation
von: Chen, Yilong, et al.
Veröffentlicht: (2026)

Understanding Textual Capability Degradation in Speech LLMs via Parameter Importance Analysis
von: Wang, Chao, et al.
Veröffentlicht: (2025)

UniScale: Adaptive Unified Inference Scaling via Online Joint Optimization of Model Routing and Test-Time Scaling
von: Huang, Kaiyu, et al.
Veröffentlicht: (2026)

Skeleton-of-Thought: Prompting LLMs for Efficient Parallel Generation
von: Ning, Xuefei, et al.
Veröffentlicht: (2023)

DynScaling: Efficient Verifier-free Inference Scaling via Dynamic and Integrated Sampling
von: Wang, Fei, et al.
Veröffentlicht: (2025)

GCC-Spam: Spam Detection via GAN, Contrastive Learning, and Character Similarity Networks
von: Wang, Zhijie, et al.
Veröffentlicht: (2025)

Exploring the Role of Knowledge Graph-Based RAG in Japanese Medical Question Answering with Small-Scale LLMs
von: Chen, Yingjian, et al.
Veröffentlicht: (2025)

Optimization Techniques for Sentiment Analysis Based on LLM (GPT-3)
von: Zhan, Tong, et al.
Veröffentlicht: (2024)

SAFT: Structure-aware Transformers for Textual Interaction Classification
von: Wang, Hongtao, et al.
Veröffentlicht: (2025)

ScaleDiff: Scaling Difficult Problems for Advanced Mathematical Reasoning
von: Pei, Qizhi, et al.
Veröffentlicht: (2025)

DHA: Learning Decoupled-Head Attention from Transformer Checkpoints via Adaptive Heads Fusion
von: Chen, Yilong, et al.
Veröffentlicht: (2024)

Disentangling Task Conflicts in Multi-Task LoRA via Orthogonal Gradient Projection
von: Yang, Ziyu, et al.
Veröffentlicht: (2026)

LLM-AutoDiff: Auto-Differentiate Any LLM Workflow
von: Yin, Li, et al.
Veröffentlicht: (2025)

Scaling LLM Inference with Optimized Sample Compute Allocation
von: Zhang, Kexun, et al.
Veröffentlicht: (2024)

Exploring Gradient-Guided Masked Language Model to Detect Textual Adversarial Attacks
von: Zhang, Xiaomei, et al.
Veröffentlicht: (2025)

Enhancing Large Language Model Performance with Gradient-Based Parameter Selection
von: Li, Haoling, et al.
Veröffentlicht: (2024)

Sampling-Efficient Test-Time Scaling: Self-Estimating the Best-of-N Sampling in Early Decoding
von: Wang, Yiming, et al.
Veröffentlicht: (2025)

Fooling the Textual Fooler via Randomizing Latent Representations
von: Hoang, Duy C., et al.
Veröffentlicht: (2023)

Krul: Efficient State Restoration for Multi-turn Conversations with Dynamic Cross-layer KV Sharing
von: Wen, Junyi, et al.
Veröffentlicht: (2025)

Schema Lineage Extraction at Scale: Multilingual Pipelines, Composite Evaluation, and Language-Model Benchmarks
von: Yin, Jiaqi, et al.
Veröffentlicht: (2025)

Not All Synthetic Data Is Yours to Learn From
von: Alemohammad, Sina, et al.
Veröffentlicht: (2026)

LAD-VF: LLM-Automatic Differentiation Enables Fine-Tuning-Free Robot Planning from Formal Methods Feedback
von: Yang, Yunhao, et al.
Veröffentlicht: (2025)

Textual Similarity as a Key Metric in Machine Translation Quality Estimation
von: Sun, Kun, et al.
Veröffentlicht: (2024)

Terminal-World: Scaling Terminal-Agent Environments via Agent Skills
von: Cheng, Zihao, et al.
Veröffentlicht: (2026)

From Compression to Expression: A Layerwise Analysis of In-Context Learning
von: Jiang, Jiachen, et al.
Veröffentlicht: (2025)

POPI: Personalizing LLMs via Optimized Natural Language Preference Inference
von: Chen, Yizhuo, et al.
Veröffentlicht: (2025)

AnnaAgent: Dynamic Evolution Agent System with Multi-Session Memory for Realistic Seeker Simulation
von: Wang, Ming, et al.
Veröffentlicht: (2025)

Simple Policy Gradients for Reasoning with Diffusion Language Models
von: Zhan, Anthony
Veröffentlicht: (2025)

Step-On-Feet Tuning: Scaling Self-Alignment of LLMs via Bootstrapping
von: Wang, Haoyu, et al.
Veröffentlicht: (2024)