INCRT: An Incremental Transformer That Determines Its Own Architecture
Fuente:
arXiv
Salvato in:
| Autore principale: | Cirrincione, Giansalvo |
|---|---|
| Natura: | Preprint |
| Pubblicazione: |
2026
|
| Soggetti: | |
| Accesso online: | |
| Tags: |
Aggiungi Tag
Nessun Tag, puoi essere il primo ad aggiungerne!!
|
Documenti analoghi
DDCL-INCRT: A Self-Organising Transformer with Hierarchical Prototype Structure (Theoretical Foundations)
di: Cirrincione, Giansalvo
Pubblicazione: (2026)
di: Cirrincione, Giansalvo
Pubblicazione: (2026)
Hierarchical Kernel Transformer: Multi-Scale Attention with an Information-Theoretic Approximation Analysis
di: Cirrincione, Giansalvo
Pubblicazione: (2026)
di: Cirrincione, Giansalvo
Pubblicazione: (2026)
DDCL: Deep Dual Competitive Learning: A Differentiable End-to-End Framework for Unsupervised Prototype-Based Representation Learning
di: Cirrincione, Giansalvo
Pubblicazione: (2026)
di: Cirrincione, Giansalvo
Pubblicazione: (2026)
Collapse-Free Prototype Readout Layer for Transformer Encoders
di: Cirrincione, Giansalvo, et al.
Pubblicazione: (2026)
di: Cirrincione, Giansalvo, et al.
Pubblicazione: (2026)
Incremental Affinity Propagation based on Cluster Consolidation and Stratification
di: Castano, Silvana, et al.
Pubblicazione: (2024)
di: Castano, Silvana, et al.
Pubblicazione: (2024)
TransNAS-TSAD: Harnessing Transformers for Multi-Objective Neural Architecture Search in Time Series Anomaly Detection
di: Haq, Ijaz Ul, et al.
Pubblicazione: (2023)
di: Haq, Ijaz Ul, et al.
Pubblicazione: (2023)
Few-shot Neural Architecture Search
di: Zhao, Yiyang, et al.
Pubblicazione: (2020)
di: Zhao, Yiyang, et al.
Pubblicazione: (2020)
Large Language Models Suffer From Their Own Output: An Analysis of the Self-Consuming Training Loop
di: Briesch, Martin, et al.
Pubblicazione: (2023)
di: Briesch, Martin, et al.
Pubblicazione: (2023)
Spiking Neural Networks with Random Network Architecture
di: Dai, Zihan, et al.
Pubblicazione: (2025)
di: Dai, Zihan, et al.
Pubblicazione: (2025)
Enabling Population-Based Architectures for Neural Combinatorial Optimization
di: Garmendia, Andoni Irazusta, et al.
Pubblicazione: (2026)
di: Garmendia, Andoni Irazusta, et al.
Pubblicazione: (2026)
Scaling Equilibrium Propagation to Deeper Neural Network Architectures
di: Elayedam, Sankar Vinayak, et al.
Pubblicazione: (2025)
di: Elayedam, Sankar Vinayak, et al.
Pubblicazione: (2025)
Multiple Population Alternate Evolution Neural Architecture Search
di: Zou, Juan, et al.
Pubblicazione: (2024)
di: Zou, Juan, et al.
Pubblicazione: (2024)
Recurrent Joint Embedding Predictive Architecture with Recurrent Forward Propagation Learning
di: Velarde, Osvaldo M, et al.
Pubblicazione: (2024)
di: Velarde, Osvaldo M, et al.
Pubblicazione: (2024)
Multi-Objective Evolutionary Neural Architecture Search for Recurrent Neural Networks
di: Booysen, Reinhard, et al.
Pubblicazione: (2024)
di: Booysen, Reinhard, et al.
Pubblicazione: (2024)
Self-Supervised Neural Architecture Search for Multimodal Deep Neural Networks
di: Suzuki, Shota, et al.
Pubblicazione: (2025)
di: Suzuki, Shota, et al.
Pubblicazione: (2025)
Robust MAE-Driven NAS: From Mask Reconstruction to Architecture Innovation
di: Hu, Yiming, et al.
Pubblicazione: (2023)
di: Hu, Yiming, et al.
Pubblicazione: (2023)
Towards Code-Oriented LM Embeddings for Surrogate-Assisted Neural Architecture Search
di: Somu, Pranav, et al.
Pubblicazione: (2026)
di: Somu, Pranav, et al.
Pubblicazione: (2026)
SONATA: Self-adaptive Evolutionary Framework for Hardware-aware Neural Architecture Search
di: Bouzidi, Halima, et al.
Pubblicazione: (2024)
di: Bouzidi, Halima, et al.
Pubblicazione: (2024)
Self-Motivated Growing Neural Network for Adaptive Architecture via Local Structural Plasticity
di: Jia, Yiyang, et al.
Pubblicazione: (2025)
di: Jia, Yiyang, et al.
Pubblicazione: (2025)
ABG-NAS: Adaptive Bayesian Genetic Neural Architecture Search for Graph Representation Learning
di: Wang, Sixuan, et al.
Pubblicazione: (2025)
di: Wang, Sixuan, et al.
Pubblicazione: (2025)
A Modality-Aware Cooperative Co-Evolutionary Framework for Multimodal Graph Neural Architecture Search
di: Wang, Sixuan, et al.
Pubblicazione: (2025)
di: Wang, Sixuan, et al.
Pubblicazione: (2025)
Efficient Multi-Objective Neural Architecture Search via Pareto Dominance-based Novelty Search
di: Vo, An, et al.
Pubblicazione: (2024)
di: Vo, An, et al.
Pubblicazione: (2024)
Looped Transformers are Better at Learning Learning Algorithms
di: Yang, Liu, et al.
Pubblicazione: (2023)
di: Yang, Liu, et al.
Pubblicazione: (2023)
Energy-Efficient Eimeria Parasite Detection Using a Two-Stage Spiking Neural Network Architecture
di: García-Vico, Ángel Miguel, et al.
Pubblicazione: (2025)
di: García-Vico, Ángel Miguel, et al.
Pubblicazione: (2025)
Utilizing Evolution Strategies to Train Transformers in Reinforcement Learning
di: Lorenc, Matyáš, et al.
Pubblicazione: (2025)
di: Lorenc, Matyáš, et al.
Pubblicazione: (2025)
Genetic Programming with Transformer-Based Mutation for Approximate Circuit Design
di: Galeta, Ondrej, et al.
Pubblicazione: (2026)
di: Galeta, Ondrej, et al.
Pubblicazione: (2026)
Sparsity Moves Computation: How FFN Architecture Reshapes Attention in Small Transformers
di: Smithline, Gabriel, et al.
Pubblicazione: (2026)
di: Smithline, Gabriel, et al.
Pubblicazione: (2026)
Utilizing Novelty-based Evolution Strategies to Train Transformers in Reinforcement Learning
di: Lorenc, Matyáš, et al.
Pubblicazione: (2025)
di: Lorenc, Matyáš, et al.
Pubblicazione: (2025)
Transformer Semantic Genetic Programming for d-dimensional Symbolic Regression Problems
di: Anthes, Philipp, et al.
Pubblicazione: (2025)
di: Anthes, Philipp, et al.
Pubblicazione: (2025)
Transforming Datasets to Requested Complexity with Projection-based Many-Objective Genetic Algorithm
di: Komorniczak, Joanna
Pubblicazione: (2025)
di: Komorniczak, Joanna
Pubblicazione: (2025)
SpikeGraphormer: A High-Performance Graph Transformer with Spiking Graph Attention
di: Sun, Yundong, et al.
Pubblicazione: (2024)
di: Sun, Yundong, et al.
Pubblicazione: (2024)
GridPE: Unifying Positional Encoding in Transformers with a Grid Cell-Inspired Framework
di: Li, Boyang, et al.
Pubblicazione: (2024)
di: Li, Boyang, et al.
Pubblicazione: (2024)
GRASP: GRouped Activation Shared Parameterization for Parameter-Efficient Fine-Tuning and Robust Inference of Transformers
di: Bal, Malyaban, et al.
Pubblicazione: (2025)
di: Bal, Malyaban, et al.
Pubblicazione: (2025)
GT-SNT: A Linear-Time Transformer for Large-Scale Graphs via Spiking Node Tokenization
di: Zhang, Huizhe, et al.
Pubblicazione: (2025)
di: Zhang, Huizhe, et al.
Pubblicazione: (2025)
Differential Evolution Algorithm based Hyper-Parameters Selection of Transformer Neural Network Model for Load Forecasting
di: Sen, Anuvab, et al.
Pubblicazione: (2023)
di: Sen, Anuvab, et al.
Pubblicazione: (2023)
From Muscle to Text with MyoText: sEMG to Text via Finger Classification and Transformer-Based Decoding
di: Chowdhury, Meghna Roy, et al.
Pubblicazione: (2026)
di: Chowdhury, Meghna Roy, et al.
Pubblicazione: (2026)
On the Geometry of Positional Encodings in Transformers
di: Cirrincione, Giansalvo
Pubblicazione: (2026)
di: Cirrincione, Giansalvo
Pubblicazione: (2026)
A Transformer-based Neural Architecture Search Method
di: Wang, Shang, et al.
Pubblicazione: (2025)
di: Wang, Shang, et al.
Pubblicazione: (2025)
Automatic Graph Topology-Aware Transformer
di: Wang, Chao, et al.
Pubblicazione: (2024)
di: Wang, Chao, et al.
Pubblicazione: (2024)
FedProK: Trustworthy Federated Class-Incremental Learning via Prototypical Feature Knowledge Transfer
di: Gao, Xin, et al.
Pubblicazione: (2024)
di: Gao, Xin, et al.
Pubblicazione: (2024)
Documenti analoghi
-
DDCL-INCRT: A Self-Organising Transformer with Hierarchical Prototype Structure (Theoretical Foundations)
di: Cirrincione, Giansalvo
Pubblicazione: (2026) -
Hierarchical Kernel Transformer: Multi-Scale Attention with an Information-Theoretic Approximation Analysis
di: Cirrincione, Giansalvo
Pubblicazione: (2026) -
DDCL: Deep Dual Competitive Learning: A Differentiable End-to-End Framework for Unsupervised Prototype-Based Representation Learning
di: Cirrincione, Giansalvo
Pubblicazione: (2026) -
Collapse-Free Prototype Readout Layer for Transformer Encoders
di: Cirrincione, Giansalvo, et al.
Pubblicazione: (2026) -
Incremental Affinity Propagation based on Cluster Consolidation and Stratification
di: Castano, Silvana, et al.
Pubblicazione: (2024)