Buchumschlag

In-Context Learning as Nonparametric Conditional Probability Estimation: Risk Bounds and Optimality

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Liu, Chenrui, Tan, Falong, Xie, Chuanlong, Zeng, Yicheng, Zhu, Lixing
Format:	Preprint
Veröffentlicht:	2025
Schlagworte:	Machine Learning
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Enhancing Out-of-Distribution Detection with Multitesting-based Layer-wise Feature Fusion
von: Li, Jiawei, et al.
Veröffentlicht: (2024)

DSDE: Using Proportion Estimation to Improve Model Selection for Out-of-Distribution Detection
von: Geng, Jingyao, et al.
Veröffentlicht: (2024)

Empirical Likelihood-Based Fairness Auditing: Distribution-Free Certification and Flagging
von: Tang, Jie, et al.
Veröffentlicht: (2026)

Transformers are Minimax Optimal Nonparametric In-Context Learners
von: Kim, Juno, et al.
Veröffentlicht: (2024)

Enhancing Hierarchical Reinforcement Learning through Change Point Detection in Time Series
von: Arumugam, Hemanath, et al.
Veröffentlicht: (2025)

High Probability Bound for Cross-Learning Contextual Bandits with Unknown Context Distributions
von: Huang, Ruiyuan, et al.
Veröffentlicht: (2024)

Local Learning for Covariate Selection in Nonparametric Causal Effect Estimation with Latent Variables
von: Li, Zheng, et al.
Veröffentlicht: (2024)

Density Ratio Estimation with Conditional Probability Paths
von: Yu, Hanlin, et al.
Veröffentlicht: (2025)

Transforming Conditional Density Estimation Into a Single Nonparametric Regression Task
von: Reisach, Alexander G., et al.
Veröffentlicht: (2025)

Weighted residual empirical processes, martingale transformations, and model specification tests for regressions with diverging number of parameters
von: Tan, Falong, et al.
Veröffentlicht: (2022)

Asymptotic Distribution-Free Tests for Ultra-high Dimensional Parametric Regressions via Projected Empirical Processes and $p$-value Combination
von: Tan, Falong, et al.
Veröffentlicht: (2026)

Sample Complexity Bounds for Estimating Probability Divergences under Invariances
von: Tahmasebi, Behrooz, et al.
Veröffentlicht: (2023)

Sparse Learning and Class Probability Estimation with Weighted Support Vector Machines
von: Zeng, Liyun, et al.
Veröffentlicht: (2023)

Generative and Nonparametric Approaches for Conditional Distribution Estimation: Methods, Perspectives, and Comparative Evaluations
von: Chin, Yen-Shiu, et al.
Veröffentlicht: (2026)

General Lower Bounds for Differentially Private Federated Learning with Arbitrary Public-Transcript Interactions
von: Li, Yicheng
Veröffentlicht: (2026)

Finding Probably Approximate Optimal Solutions by Training to Estimate the Optimal Values of Subproblems
von: Megiddo, Nimrod, et al.
Veröffentlicht: (2025)

Nonparametric Instrumental Regression via Kernel Methods is Minimax Optimal
von: Meunier, Dimitri, et al.
Veröffentlicht: (2024)

Optimal Rates of Kernel Ridge Regression under Source Condition in Large Dimensions
von: Zhang, Haobo, et al.
Veröffentlicht: (2024)

A Generalizable Physics-informed Learning Framework for Risk Probability Estimation
von: Wang, Zhuoyuan, et al.
Veröffentlicht: (2023)

PeerGuard: Defending Multi-Agent Systems Against Backdoor Attacks Through Mutual Reasoning
von: Fan, Falong, et al.
Veröffentlicht: (2025)

Accelerated Gradient Methods with Biased Gradient Estimates: Risk Sensitivity, High-Probability Guarantees, and Large Deviation Bounds
von: Gürbüzbalaban, Mert, et al.
Veröffentlicht: (2025)

From Weighting to Modeling: A Nonparametric Estimator for Off-Policy Evaluation
von: Zhu, Rong J. B.
Veröffentlicht: (2026)

Provable Contrastive Continual Learning
von: Wen, Yichen, et al.
Veröffentlicht: (2024)

Kernelized Advantage Estimation: From Nonparametric Statistics to LLM Reasoning
von: Gong, Shijin, et al.
Veröffentlicht: (2026)

Learning Optimal Individualized Decision Rules with Conditional Demographic Parity
von: Cui, Wenhai, et al.
Veröffentlicht: (2026)

Towards Sharper Risk Bounds for Minimax Problems
von: Zhu, Bowei, et al.
Veröffentlicht: (2024)

TeamTR: Trust-Region Fine-Tuning for Multi-Agent LLM Coordination
von: Xie, Yi, et al.
Veröffentlicht: (2026)

CALYREX: Cross-Attention LaYeR EXtended Transformers for System Prompt Anchoring
von: Lixing, Li
Veröffentlicht: (2026)

A Two-Step Projection-Based Goodness-of-Fit Test for Ultra-High Dimensional Sparse Regressions
von: Tan, Falong, et al.
Veröffentlicht: (2024)

Optimal Demixing of Nonparametric Densities
von: Fan, Jianqing, et al.
Veröffentlicht: (2026)

Always Tell Me The Odds: Fine-grained Conditional Probability Estimation
von: Wang, Liaoyaqi, et al.
Veröffentlicht: (2025)

Active Learning with Neural Networks: Insights from Nonparametric Statistics
von: Zhu, Yinglun, et al.
Veröffentlicht: (2022)

Concentration Bounds for Optimized Certainty Equivalent Risk Estimation
von: Ghosh, Ayon, et al.
Veröffentlicht: (2024)

Reweighting Improves Conditional Risk Bounds
von: Zhang, Yikai, et al.
Veröffentlicht: (2025)

Model-Robust and Adaptive-Optimal Transfer Learning for Tackling Concept Shifts in Nonparametric Regression
von: Lin, Haotian, et al.
Veröffentlicht: (2025)

Online Prediction of Stochastic Sequences with High Probability Regret Bounds
von: Frey, Matthias, et al.
Veröffentlicht: (2026)

Online Bandits with (Biased) Offline Data: Adaptive Learning under Distribution Mismatch
von: Cheung, Wang Chi, et al.
Veröffentlicht: (2024)

High-Probability Bounds for SGD under the Polyak-Lojasiewicz Condition with Markovian Noise
von: Kar, Avik, et al.
Veröffentlicht: (2026)

Learning Monotonic Probabilities with a Generative Cost Model
von: Tang, Yongxiang, et al.
Veröffentlicht: (2025)

Causal Representation Learning from General Environments under Nonparametric Mixing
von: Ng, Ignavier, et al.
Veröffentlicht: (2026)