SAMformer: Unlocking the Potential of Transformers in Time Series Forecasting with Sharpness-Aware Minimization and Channel-Wise Attention
Fuente:
arXiv
Salvato in:
| Autori principali: | Ilbert, Romain, Odonnat, Ambroise, Feofanov, Vasilii, Virmaux, Aladin, Paolo, Giuseppe, Palpanas, Themis, Redko, Ievgen |
|---|---|
| Natura: | Preprint |
| Pubblicazione: |
2024
|
| Soggetti: | |
| Accesso online: | |
| Tags: |
Aggiungi Tag
Nessun Tag, puoi essere il primo ad aggiungerne!!
|
Documenti analoghi
Analysing Multi-Task Regression via Random Matrix Theory with Application to Time Series Forecasting
di: Ilbert, Romain, et al.
Pubblicazione: (2024)
di: Ilbert, Romain, et al.
Pubblicazione: (2024)
User-friendly Foundation Model Adapters for Multivariate Time Series Classification
di: Feofanov, Vasilii, et al.
Pubblicazione: (2024)
di: Feofanov, Vasilii, et al.
Pubblicazione: (2024)
Leveraging Ensemble Diversity for Robust Self-Training in the Presence of Sample Selection Bias
di: Odonnat, Ambroise, et al.
Pubblicazione: (2023)
di: Odonnat, Ambroise, et al.
Pubblicazione: (2023)
Layer by layer, module by module: Choose both for optimal OOD probing of ViT
di: Odonnat, Ambroise, et al.
Pubblicazione: (2026)
di: Odonnat, Ambroise, et al.
Pubblicazione: (2026)
Leveraging Gradients for Unsupervised Accuracy Estimation under Distribution Shift
di: Xie, Renchunzi, et al.
Pubblicazione: (2024)
di: Xie, Renchunzi, et al.
Pubblicazione: (2024)
CauKer: Classification Time Series Foundation Models Can Be Pretrained on Synthetic Data
di: Xie, Shifeng, et al.
Pubblicazione: (2025)
di: Xie, Shifeng, et al.
Pubblicazione: (2025)
Vision Transformer Finetuning Benefits from Non-Smooth Components
di: Odonnat, Ambroise, et al.
Pubblicazione: (2026)
di: Odonnat, Ambroise, et al.
Pubblicazione: (2026)
Leveraging Generic Time Series Foundation Models for EEG Classification
di: Gnassounou, Théo, et al.
Pubblicazione: (2025)
di: Gnassounou, Théo, et al.
Pubblicazione: (2025)
Time Series Representations for Classification Lie Hidden in Pretrained Vision Transformers
di: Roschmann, Simon, et al.
Pubblicazione: (2025)
di: Roschmann, Simon, et al.
Pubblicazione: (2025)
MantisV2: Closing the Zero-Shot Gap in Time Series Classification with Synthetic Data and Test-Time Strategies
di: Feofanov, Vasilii, et al.
Pubblicazione: (2026)
di: Feofanov, Vasilii, et al.
Pubblicazione: (2026)
Mantis: Lightweight Calibrated Foundation Model for User-Friendly Time Series Classification
di: Feofanov, Vasilii, et al.
Pubblicazione: (2025)
di: Feofanov, Vasilii, et al.
Pubblicazione: (2025)
Breaking Boundaries: Balancing Performance and Robustness in Deep Wireless Traffic Forecasting
di: Ilbert, Romain, et al.
Pubblicazione: (2023)
di: Ilbert, Romain, et al.
Pubblicazione: (2023)
MANO: Exploiting Matrix Norm for Unsupervised Accuracy Estimation Under Distribution Shifts
di: Xie, Renchunzi, et al.
Pubblicazione: (2024)
di: Xie, Renchunzi, et al.
Pubblicazione: (2024)
Large Language Models as Markov Chains
di: Zekri, Oussama, et al.
Pubblicazione: (2024)
di: Zekri, Oussama, et al.
Pubblicazione: (2024)
Zero-shot Model-based Reinforcement Learning using Large Language Models
di: Benechehab, Abdelhakim, et al.
Pubblicazione: (2024)
di: Benechehab, Abdelhakim, et al.
Pubblicazione: (2024)
AdaPTS: Adapting Univariate Foundation Models to Probabilistic Multivariate Time Series Forecasting
di: Benechehab, Abdelhakim, et al.
Pubblicazione: (2025)
di: Benechehab, Abdelhakim, et al.
Pubblicazione: (2025)
SEAnet: A Deep Learning Architecture for Data Series Similarity Search
di: Wang, Qitong, et al.
Pubblicazione: (2026)
di: Wang, Qitong, et al.
Pubblicazione: (2026)
LeaFi: Data Series Indexes on Steroids with Learned Filters
di: Wang, Qitong, et al.
Pubblicazione: (2025)
di: Wang, Qitong, et al.
Pubblicazione: (2025)
Measuring Pre-training Data Quality without Labels for Time Series Foundation Models
di: Wen, Songkang, et al.
Pubblicazione: (2024)
di: Wen, Songkang, et al.
Pubblicazione: (2024)
ADF & TransApp: A Transformer-Based Framework for Appliance Detection Using Smart Meter Consumption Series
di: Petralia, Adrien, et al.
Pubblicazione: (2023)
di: Petralia, Adrien, et al.
Pubblicazione: (2023)
Data Quality Awareness: A Journey from Traditional Data Management to Data Science Systems
di: Dong, Sijie, et al.
Pubblicazione: (2024)
di: Dong, Sijie, et al.
Pubblicazione: (2024)
Clustering Head: A Visual Case Study of the Training Dynamics in Transformers
di: Odonnat, Ambroise, et al.
Pubblicazione: (2024)
di: Odonnat, Ambroise, et al.
Pubblicazione: (2024)
Optimal Self-Consistency for Efficient Reasoning with Large Language Models
di: Feng, Austin, et al.
Pubblicazione: (2025)
di: Feng, Austin, et al.
Pubblicazione: (2025)
Easing Optimization Paths: a Circuit Perspective
di: Odonnat, Ambroise, et al.
Pubblicazione: (2025)
di: Odonnat, Ambroise, et al.
Pubblicazione: (2025)
Graphint: Graph-based Time Series Clustering Visualisation Tool
di: Boniol, Paul, et al.
Pubblicazione: (2025)
di: Boniol, Paul, et al.
Pubblicazione: (2025)
Can LLMs predict the convergence of Stochastic Gradient Descent?
di: Zekri, Oussama, et al.
Pubblicazione: (2024)
di: Zekri, Oussama, et al.
Pubblicazione: (2024)
$k$-Graph: A Graph Embedding for Interpretable Time Series Clustering
di: Boniol, Paul, et al.
Pubblicazione: (2025)
di: Boniol, Paul, et al.
Pubblicazione: (2025)
DeviceScope: An Interactive App to Detect and Localize Appliance Patterns in Electricity Consumption Time Series
di: Petralia, Adrien, et al.
Pubblicazione: (2025)
di: Petralia, Adrien, et al.
Pubblicazione: (2025)
UTICA: Multi-Objective Self-Distllation Foundation Model Pretraining for Time Series Classification
di: Moakher, Yessin, et al.
Pubblicazione: (2026)
di: Moakher, Yessin, et al.
Pubblicazione: (2026)
Few Labels are all you need: A Weakly Supervised Framework for Appliance Localization in Smart-Meter Series
di: Petralia, Adrien, et al.
Pubblicazione: (2025)
di: Petralia, Adrien, et al.
Pubblicazione: (2025)
Efficient Pattern-Based Analysis of Network Flows in IoT Systems
di: Tzagkarakis, Christos, et al.
Pubblicazione: (2025)
di: Tzagkarakis, Christos, et al.
Pubblicazione: (2025)
DARTH: Declarative Recall Through Early Termination for Approximate Nearest Neighbor Search
di: Chatzakis, Manos, et al.
Pubblicazione: (2025)
di: Chatzakis, Manos, et al.
Pubblicazione: (2025)
Graph-Based Vector Search: An Experimental Evaluation of the State-of-the-Art
di: Azizi, Ilias, et al.
Pubblicazione: (2025)
di: Azizi, Ilias, et al.
Pubblicazione: (2025)
Dive into Time-Series Anomaly Detection: A Decade Review
di: Boniol, Paul, et al.
Pubblicazione: (2024)
di: Boniol, Paul, et al.
Pubblicazione: (2024)
Provable Benefits of In-Tool Learning for Large Language Models
di: Houliston, Sam, et al.
Pubblicazione: (2025)
di: Houliston, Sam, et al.
Pubblicazione: (2025)
DumpyOS: A Data-Adaptive Multi-ary Index for Scalable Data Series Similarity Search
di: Wang, Zeyu, et al.
Pubblicazione: (2024)
di: Wang, Zeyu, et al.
Pubblicazione: (2024)
MS-Index: Fast Top-k Subsequence Search for Multivariate Time Series under Euclidean Distance
di: d'Hondt, Jens E., et al.
Pubblicazione: (2025)
di: d'Hondt, Jens E., et al.
Pubblicazione: (2025)
DaiSy: A Library for Scalable Data Series Similarity Search
di: Del Gaudio, Francesca, et al.
Pubblicazione: (2026)
di: Del Gaudio, Francesca, et al.
Pubblicazione: (2026)
Automated Data Quality Validation in an End-to-End GNN Framework
di: Dong, Sijie, et al.
Pubblicazione: (2025)
di: Dong, Sijie, et al.
Pubblicazione: (2025)
DET-LSH: A Locality-Sensitive Hashing Scheme with Dynamic Encoding Tree for Approximate Nearest Neighbor Search
di: Wei, Jiuqi, et al.
Pubblicazione: (2024)
di: Wei, Jiuqi, et al.
Pubblicazione: (2024)
Documenti analoghi
-
Analysing Multi-Task Regression via Random Matrix Theory with Application to Time Series Forecasting
di: Ilbert, Romain, et al.
Pubblicazione: (2024) -
User-friendly Foundation Model Adapters for Multivariate Time Series Classification
di: Feofanov, Vasilii, et al.
Pubblicazione: (2024) -
Leveraging Ensemble Diversity for Robust Self-Training in the Presence of Sample Selection Bias
di: Odonnat, Ambroise, et al.
Pubblicazione: (2023) -
Layer by layer, module by module: Choose both for optimal OOD probing of ViT
di: Odonnat, Ambroise, et al.
Pubblicazione: (2026) -
Leveraging Gradients for Unsupervised Accuracy Estimation under Distribution Shift
di: Xie, Renchunzi, et al.
Pubblicazione: (2024)