Buchumschlag

UnitNorm: Rethinking Normalization for Transformers in Time Series

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Huang, Nan, Kümmerle, Christian, Zhang, Xiang
Format:	Preprint
Veröffentlicht:	2024
Schlagworte:	Machine Learning
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

FlashNorm: Fast Normalization for Transformers
von: Graef, Nils, et al.
Veröffentlicht: (2024)

Recovering Simultaneously Structured Data via Non-Convex Iteratively Reweighted Least Squares
von: Kümmerle, Christian, et al.
Veröffentlicht: (2023)

Sample-Efficient Geometry Reconstruction from Euclidean Distances using Non-Convex Optimization
von: Ghosh, Ipsita, et al.
Veröffentlicht: (2024)

TSLANet: Rethinking Transformers for Time Series Representation Learning
von: Eldele, Emadeldeen, et al.
Veröffentlicht: (2024)

Medformer: A Multi-Granularity Patching Transformer for Medical Time-Series Classification
von: Wang, Yihe, et al.
Veröffentlicht: (2024)

GAS-Norm: Score-Driven Adaptive Normalization for Non-Stationary Time Series Forecasting in Deep Learning
von: Urettini, Edoardo, et al.
Veröffentlicht: (2024)

Repurposing Foundation Model for Generalizable Medical Time Series Classification
von: Huang, Nan, et al.
Veröffentlicht: (2024)

Q3R: Quadratic Reweighted Rank Regularizer for Effective Low-Rank Training
von: Ghosh, Ipsita, et al.
Veröffentlicht: (2025)

Caformer: Rethinking Time Series Analysis from Causal Perspective
von: Zhang, Kexuan, et al.
Veröffentlicht: (2024)

VL Norm: Rethink Loss Aggregation in RLVR
von: He, Zhiyuan, et al.
Veröffentlicht: (2025)

Decentralized Attention Fails Centralized Signals: Rethinking Transformers for Medical Time Series
von: Yu, Guoqi, et al.
Veröffentlicht: (2026)

End-to-End Modeling Hierarchical Time Series Using Autoregressive Transformer and Conditional Normalizing Flow based Reconciliation
von: Wang, Shiyu, et al.
Veröffentlicht: (2022)

HybridNorm: Towards Stable and Efficient Transformer Training via Hybrid Normalization
von: Zhuo, Zhijian, et al.
Veröffentlicht: (2025)

IN-Flow: Instance Normalization Flow for Non-stationary Time Series Forecasting
von: Fan, Wei, et al.
Veröffentlicht: (2024)

AutoHFormer: Efficient Hierarchical Autoregressive Transformer for Time Series Prediction
von: Zhang, Qianru, et al.
Veröffentlicht: (2025)

Wavelet-based Disentangled Adaptive Normalization for Non-stationary Times Series Forecasting
von: Lin, Junpeng, et al.
Veröffentlicht: (2025)

Rethinking Tokenization for Clinical Time Series: When Less is More
von: Attrach, Rafi Al, et al.
Veröffentlicht: (2025)

Rethinking Post-Training Recipes for Multimodal Time-Series Forecasting
von: Liu, Haoxin, et al.
Veröffentlicht: (2026)

Inner-Instance Normalization for Time Series Forecasting
von: Jibao, Zipo, et al.
Veröffentlicht: (2025)

Channel Normalization for Time Series Channel Identification
von: Lee, Seunghan, et al.
Veröffentlicht: (2025)

TimeFormer: Transformer with Attention Modulation Empowered by Temporal Characteristics for Time Series Forecasting
von: Liu, Zhipeng, et al.
Veröffentlicht: (2025)

Minimal Time Series Transformer
von: Kämäräinen, Joni-Kristian
Veröffentlicht: (2025)

Timer: Generative Pre-trained Transformers Are Large Time Series Models
von: Liu, Yong, et al.
Veröffentlicht: (2024)

Rethinking Time Encoding via Learnable Transformation Functions
von: Chen, Xi, et al.
Veröffentlicht: (2025)

iTransformer: Inverted Transformers Are Effective for Time Series Forecasting
von: Liu, Yong, et al.
Veröffentlicht: (2023)

Beyond Random Missingness: Clinically Rethinking for Healthcare Time Series Imputation
von: Qian, Linglong, et al.
Veröffentlicht: (2024)

Rethinking Time Series Domain Generalization via Structure-Stratified Calibration
von: Li, Jinyang, et al.
Veröffentlicht: (2026)

SynTSBench: Rethinking Temporal Pattern Learning in Deep Learning Models for Time Series
von: Tan, Qitai, et al.
Veröffentlicht: (2025)

IterL2Norm: Fast Iterative L2-Normalization
von: Ye, ChangMin, et al.
Veröffentlicht: (2024)

Transformers Don't Need LayerNorm at Inference Time: Scaling LayerNorm Removal to GPT-2 XL and the Implications for Mechanistic Interpretability
von: Baroni, Luca, et al.
Veröffentlicht: (2025)

TimeAPN: Adaptive Amplitude-Phase Non-Stationarity Normalization for Time Series Forecasting
von: Hu, Yue, et al.
Veröffentlicht: (2026)

NoRIN: Backbone-Adaptive Reversible Normalization for Time-Series Forecasting
von: Zhang, Shun, et al.
Veröffentlicht: (2026)

Transformer Conformal Prediction for Time Series
von: Lee, Junghwan, et al.
Veröffentlicht: (2024)

Multi-resolution Time-Series Transformer for Long-term Forecasting
von: Zhang, Yitian, et al.
Veröffentlicht: (2023)

ReNF: Rethinking the Design of Neural Long-Term Time Series Forecasters
von: Lu, Yihang, et al.
Veröffentlicht: (2025)

Rethinking Large Language Models For Irregular Time Series Classification In Critical Care
von: Zheng, Feixiang, et al.
Veröffentlicht: (2026)

Rethinking Irregular Time Series Forecasting: A Simple yet Effective Baseline
von: Liu, Xvyuan, et al.
Veröffentlicht: (2025)

Timer-XL: Long-Context Transformers for Unified Time Series Forecasting
von: Liu, Yong, et al.
Veröffentlicht: (2024)

TimeSeriesScientist: A General-Purpose AI Agent for Time Series Analysis
von: Zhao, Haokun, et al.
Veröffentlicht: (2025)

Hidden Synergy: $L_1$ Weight Normalization and 1-Path-Norm Regularization
von: Biswas, Aditya
Veröffentlicht: (2024)