Noise Stability of Transformer Models
Fuente:
arXiv
Salvato in:
| Autori principali: | Haris, Themistoklis, Zhang, Zihan, Yoshida, Yuichi |
|---|---|
| Natura: | Preprint |
| Pubblicazione: |
2026
|
| Soggetti: | |
| Accesso online: | |
| Tags: |
Aggiungi Tag
Nessun Tag, puoi essere il primo ad aggiungerne!!
|
Documenti analoghi
Compression Barriers for Autoregressive Transformers
di: Haris, Themistoklis, et al.
Pubblicazione: (2025)
di: Haris, Themistoklis, et al.
Pubblicazione: (2025)
Symmetry Reveals Layerwise Dynamics: How Transformers Perform In-Context Classification
di: Lutz, Patrick, et al.
Pubblicazione: (2026)
di: Lutz, Patrick, et al.
Pubblicazione: (2026)
$k$NN Attention Demystified: A Theoretical Exploration for Scalable Transformers
di: Haris, Themistoklis
Pubblicazione: (2024)
di: Haris, Themistoklis
Pubblicazione: (2024)
Is Monotonic Sampling Necessary in Diffusion Models?
di: Khan, Muhammad Haris
Pubblicazione: (2026)
di: Khan, Muhammad Haris
Pubblicazione: (2026)
NoiseFormer -- Noise Diffused Symmetric Attention Transformer
di: Kumar, Phani, et al.
Pubblicazione: (2026)
di: Kumar, Phani, et al.
Pubblicazione: (2026)
NoiseAR: AutoRegressing Initial Noise Prior for Diffusion Models
di: Li, Zeming, et al.
Pubblicazione: (2025)
di: Li, Zeming, et al.
Pubblicazione: (2025)
From Noise to Narrative: Tracing the Origins of Hallucinations in Transformers
di: Suresh, Praneet, et al.
Pubblicazione: (2025)
di: Suresh, Praneet, et al.
Pubblicazione: (2025)
Stability and Generalization in Looped Transformers
di: Labovich, Asher
Pubblicazione: (2026)
di: Labovich, Asher
Pubblicazione: (2026)
Policy Filtration for RLHF to Mitigate Noise in Reward Models
di: Zhang, Chuheng, et al.
Pubblicazione: (2024)
di: Zhang, Chuheng, et al.
Pubblicazione: (2024)
The Kinetics of Reasoning: How Chain-of-Thought Shapes Learning in Transformers?
di: Pengmei, Zihan, et al.
Pubblicazione: (2025)
di: Pengmei, Zihan, et al.
Pubblicazione: (2025)
Precision Tracked Transformer via Kalman Filtering, Kriging and Process Noise
di: Long, Bo, et al.
Pubblicazione: (2026)
di: Long, Bo, et al.
Pubblicazione: (2026)
Exact Attention Sensitivity and the Geometry of Transformer Stability
di: Emadi, Seyed Morteza
Pubblicazione: (2026)
di: Emadi, Seyed Morteza
Pubblicazione: (2026)
Diffusion World Model: Future Modeling Beyond Step-by-Step Rollout for Offline Reinforcement Learning
di: Ding, Zihan, et al.
Pubblicazione: (2024)
di: Ding, Zihan, et al.
Pubblicazione: (2024)
Cut Less, Fold More: Model Compression through the Lens of Projection Geometry
di: Saukh, Olga, et al.
Pubblicazione: (2026)
di: Saukh, Olga, et al.
Pubblicazione: (2026)
Robust Federated Learning Over the Air: Combating Heavy-Tailed Noise with Median Anchored Clipping
di: Li, Jiaxing, et al.
Pubblicazione: (2024)
di: Li, Jiaxing, et al.
Pubblicazione: (2024)
SafeBench-Seq: A Homology-Clustered, CPU-Only Baseline for Protein Hazard Screening with Physicochemical/Composition Features and Cluster-Aware Confidence Intervals
di: Khan, Muhammad Haris
Pubblicazione: (2025)
di: Khan, Muhammad Haris
Pubblicazione: (2025)
Modular Delta Merging with Orthogonal Constraints: A Scalable Framework for Continual and Reversible Model Composition
di: Khan, Haris, et al.
Pubblicazione: (2025)
di: Khan, Haris, et al.
Pubblicazione: (2025)
Handling Label Noise via Instance-Level Difficulty Modeling and Dynamic Optimization
di: Zhang, Kuan, et al.
Pubblicazione: (2025)
di: Zhang, Kuan, et al.
Pubblicazione: (2025)
Unlocking Emergent Modularity in Large Language Models
di: Qiu, Zihan, et al.
Pubblicazione: (2023)
di: Qiu, Zihan, et al.
Pubblicazione: (2023)
Traj-Transformer: Diffusion Models with Transformer for GPS Trajectory Generation
di: Zhang, Zhiyang, et al.
Pubblicazione: (2025)
di: Zhang, Zhiyang, et al.
Pubblicazione: (2025)
Stability of Transformers under Layer Normalization
di: Kan, Kelvin, et al.
Pubblicazione: (2025)
di: Kan, Kelvin, et al.
Pubblicazione: (2025)
Hide and Seek in Noise Labels: Noise-Robust Collaborative Active Learning with LLM-Powered Assistance
di: Yuan, Bo, et al.
Pubblicazione: (2025)
di: Yuan, Bo, et al.
Pubblicazione: (2025)
Self-Discovered Intention-aware Transformer for Multi-modal Vehicle Trajectory Prediction
di: Liu, Diyi, et al.
Pubblicazione: (2026)
di: Liu, Diyi, et al.
Pubblicazione: (2026)
When Is Rank-1 Steering Cheap? Geometry, Granularity, and Budgeted Search
di: Robertson, John T., et al.
Pubblicazione: (2026)
di: Robertson, John T., et al.
Pubblicazione: (2026)
Forget the Data and Fine-Tuning! Just Fold the Network to Compress
di: Wang, Dong, et al.
Pubblicazione: (2025)
di: Wang, Dong, et al.
Pubblicazione: (2025)
A Practical Two-Stage Recipe for Mathematical LLMs: Maximizing Accuracy with SFT and Efficiency with Reinforcement Learning
di: Yoshihara, Hiroshi, et al.
Pubblicazione: (2025)
di: Yoshihara, Hiroshi, et al.
Pubblicazione: (2025)
A Comprehensive Review on Noise Control of Diffusion Model
di: Guo, Zhehao, et al.
Pubblicazione: (2025)
di: Guo, Zhehao, et al.
Pubblicazione: (2025)
CCS: Controllable and Constrained Sampling with Diffusion Models via Initial Noise Perturbation
di: Song, Bowen, et al.
Pubblicazione: (2025)
di: Song, Bowen, et al.
Pubblicazione: (2025)
From Static Analysis to Audience Dissemination: A Training-Free Multimodal Controversy Detection Multi-Agent Framework
di: Ding, Zihan, et al.
Pubblicazione: (2026)
di: Ding, Zihan, et al.
Pubblicazione: (2026)
PrismAgent: Illuminating Harm in Memes via a Zero-Shot Interpretable Multi-Agent Framework
di: Ding, Zihan, et al.
Pubblicazione: (2026)
di: Ding, Zihan, et al.
Pubblicazione: (2026)
Inference-Time Alignment of Diffusion Models with Direct Noise Optimization
di: Tang, Zhiwei, et al.
Pubblicazione: (2024)
di: Tang, Zhiwei, et al.
Pubblicazione: (2024)
ANT: Adaptive Noise Schedule for Time Series Diffusion Models
di: Lee, Seunghan, et al.
Pubblicazione: (2024)
di: Lee, Seunghan, et al.
Pubblicazione: (2024)
An Empirical Study of Pre-trained Model Selection for Out-of-Distribution Generalization and Calibration
di: Naganuma, Hiroki, et al.
Pubblicazione: (2023)
di: Naganuma, Hiroki, et al.
Pubblicazione: (2023)
HyperCore: Coreset Selection under Noise via Hypersphere Models
di: Moser, Brian B., et al.
Pubblicazione: (2025)
di: Moser, Brian B., et al.
Pubblicazione: (2025)
From Noise to Control: Parameterized Diffusion Policies
di: Zhang, Renhao, et al.
Pubblicazione: (2026)
di: Zhang, Renhao, et al.
Pubblicazione: (2026)
Single-stream Policy Optimization
di: Xu, Zhongwen, et al.
Pubblicazione: (2025)
di: Xu, Zhongwen, et al.
Pubblicazione: (2025)
Dynamic Influence Tracker: Measuring Time-Varying Sample Influence During Training
di: Xu, Jie, et al.
Pubblicazione: (2025)
di: Xu, Jie, et al.
Pubblicazione: (2025)
Adaptive Policy Selection and Fine-Tuning under Interaction Budgets for Offline-to-Online Reinforcement Learning
di: Bozkurt, Alper Kamil, et al.
Pubblicazione: (2026)
di: Bozkurt, Alper Kamil, et al.
Pubblicazione: (2026)
The ODE Method for Stochastic Approximation and Reinforcement Learning with Markovian Noise
di: Liu, Shuze Daniel, et al.
Pubblicazione: (2024)
di: Liu, Shuze Daniel, et al.
Pubblicazione: (2024)
Online Learning for Multi-Layer Hierarchical Inference under Partial and Policy-Dependent Feedback
di: Zhang, Haoran, et al.
Pubblicazione: (2026)
di: Zhang, Haoran, et al.
Pubblicazione: (2026)
Documenti analoghi
-
Compression Barriers for Autoregressive Transformers
di: Haris, Themistoklis, et al.
Pubblicazione: (2025) -
Symmetry Reveals Layerwise Dynamics: How Transformers Perform In-Context Classification
di: Lutz, Patrick, et al.
Pubblicazione: (2026) -
$k$NN Attention Demystified: A Theoretical Exploration for Scalable Transformers
di: Haris, Themistoklis
Pubblicazione: (2024) -
Is Monotonic Sampling Necessary in Diffusion Models?
di: Khan, Muhammad Haris
Pubblicazione: (2026) -
NoiseFormer -- Noise Diffused Symmetric Attention Transformer
di: Kumar, Phani, et al.
Pubblicazione: (2026)