On the inductive bias of infinite-depth ResNets and the bottleneck rank
Fuente:
arXiv
Salvato in:
| Autore principale: | Boix-Adsera, Enric |
|---|---|
| Natura: | Preprint |
| Pubblicazione: |
2025
|
| Soggetti: | |
| Accesso online: | |
| Tags: |
Aggiungi Tag
Nessun Tag, puoi essere il primo ad aggiungerne!!
|
Documenti analoghi
Secret mixtures of experts inside your LLM
di: Boix-Adsera, Enric
Pubblicazione: (2025)
di: Boix-Adsera, Enric
Pubblicazione: (2025)
Towards a theory of model distillation
di: Boix-Adsera, Enric
Pubblicazione: (2024)
di: Boix-Adsera, Enric
Pubblicazione: (2024)
The power of fine-grained experts: Granularity boosts expressivity in Mixture of Experts
di: Boix-Adsera, Enric, et al.
Pubblicazione: (2025)
di: Boix-Adsera, Enric, et al.
Pubblicazione: (2025)
The Features at Convergence Theorem: a first-principles alternative to the Neural Feature Ansatz for how networks learn representations
di: Boix-Adsera, Enric, et al.
Pubblicazione: (2025)
di: Boix-Adsera, Enric, et al.
Pubblicazione: (2025)
Toward universal steering and monitoring of AI models
di: Beaglehole, Daniel, et al.
Pubblicazione: (2025)
di: Beaglehole, Daniel, et al.
Pubblicazione: (2025)
ResNets Are Deeper Than You Think
di: Mehmeti-Göpel, Christian H. X. Ali, et al.
Pubblicazione: (2025)
di: Mehmeti-Göpel, Christian H. X. Ali, et al.
Pubblicazione: (2025)
L-Lipschitz Gershgorin ResNet Network
di: Juston, Marius F. R., et al.
Pubblicazione: (2025)
di: Juston, Marius F. R., et al.
Pubblicazione: (2025)
Let Me Think! A Long Chain-of-Thought Can Be Worth Exponentially Many Short Ones
di: Mirtaheri, Parsa, et al.
Pubblicazione: (2025)
di: Mirtaheri, Parsa, et al.
Pubblicazione: (2025)
Neural Collapse is Globally Optimal in Deep Regularized ResNets and Transformers
di: Súkeník, Peter, et al.
Pubblicazione: (2025)
di: Súkeník, Peter, et al.
Pubblicazione: (2025)
Hamiltonian Mechanics of Feature Learning: Bottleneck Structure in Leaky ResNets
di: Jacot, Arthur, et al.
Pubblicazione: (2024)
di: Jacot, Arthur, et al.
Pubblicazione: (2024)
When can transformers reason with abstract symbols?
di: Boix-Adsera, Enric, et al.
Pubblicazione: (2023)
di: Boix-Adsera, Enric, et al.
Pubblicazione: (2023)
Bridging Neural ODE and ResNet: A Formal Error Bound for Safety Verification
di: Sayed, Abdelrahman Sayed, et al.
Pubblicazione: (2025)
di: Sayed, Abdelrahman Sayed, et al.
Pubblicazione: (2025)
Cardioformer: Advancing AI in ECG Analysis with Multi-Granularity Patching and ResNet
di: Mobin, Md Kamrujjaman, et al.
Pubblicazione: (2025)
di: Mobin, Md Kamrujjaman, et al.
Pubblicazione: (2025)
Progressive Feedforward Collapse of ResNet Training
di: Wang, Sicong, et al.
Pubblicazione: (2024)
di: Wang, Sicong, et al.
Pubblicazione: (2024)
Acute Lymphoblastic Leukemia Diagnosis Employing YOLOv11, YOLOv8, ResNet50, and Inception-ResNet-v2 Deep Learning Models
di: Awad, Alaa, et al.
Pubblicazione: (2025)
di: Awad, Alaa, et al.
Pubblicazione: (2025)
Scaling ResNets in the Large-depth Regime
di: Marion, Pierre, et al.
Pubblicazione: (2022)
di: Marion, Pierre, et al.
Pubblicazione: (2022)
The merged-staircase property: a necessary and nearly sufficient condition for SGD learning of sparse functions on two-layer neural networks
di: Abbe, Emmanuel, et al.
Pubblicazione: (2022)
di: Abbe, Emmanuel, et al.
Pubblicazione: (2022)
A Neural Architecture Search Method using Auxiliary Evaluation Metric based on ResNet Architecture
di: Wang, Shang, et al.
Pubblicazione: (2025)
di: Wang, Shang, et al.
Pubblicazione: (2025)
PlantDiseaseNet-RT50: A Fine-tuned ResNet50 Architecture for High-Accuracy Plant Disease Detection Beyond Standard CNNs
di: Sagnika, Santwana, et al.
Pubblicazione: (2025)
di: Sagnika, Santwana, et al.
Pubblicazione: (2025)
Lung Cancer Classification from CT Images Using ResNet
di: Adekunle, Olajumoke O., et al.
Pubblicazione: (2025)
di: Adekunle, Olajumoke O., et al.
Pubblicazione: (2025)
Understanding the training of infinitely deep and wide ResNets with Conditional Optimal Transport
di: Barboni, Raphaël, et al.
Pubblicazione: (2024)
di: Barboni, Raphaël, et al.
Pubblicazione: (2024)
Chemist-aligned retrosynthesis by ensembling diverse inductive bias models
di: Maziarz, Krzysztof, et al.
Pubblicazione: (2024)
di: Maziarz, Krzysztof, et al.
Pubblicazione: (2024)
Anomaly detection in time-series via inductive biases in the latent space of conditional normalizing flows
di: Baumgartner, David, et al.
Pubblicazione: (2026)
di: Baumgartner, David, et al.
Pubblicazione: (2026)
MFI-ResNet: Efficient ResNet Architecture Optimization via MeanFlow Compression and Selective Incubation
di: Sun, Nuolin, et al.
Pubblicazione: (2025)
di: Sun, Nuolin, et al.
Pubblicazione: (2025)
Lightweight Quantum-Enhanced ResNet for Coronary Angiography Classification: A Hybrid Quantum-Classical Feature Enhancement Framework
di: Xia, Jingsong
Pubblicazione: (2026)
di: Xia, Jingsong
Pubblicazione: (2026)
AdaResNet: Enhancing Residual Networks with Dynamic Weight Adjustment for Improved Feature Integration
di: Su, Hong
Pubblicazione: (2024)
di: Su, Hong
Pubblicazione: (2024)
Transformative or Conservative? Conservation laws for ResNets and Transformers
di: Marcotte, Sibylle, et al.
Pubblicazione: (2025)
di: Marcotte, Sibylle, et al.
Pubblicazione: (2025)
Solving the encoding bottleneck: of the HHL algorithm, by the HHL algorithm
di: He, Guang Ping
Pubblicazione: (2025)
di: He, Guang Ping
Pubblicazione: (2025)
Universal approximation property of ODENet and ResNet with a single activation function
di: Kimura, Masato, et al.
Pubblicazione: (2024)
di: Kimura, Masato, et al.
Pubblicazione: (2024)
Approximation theory for 1-Lipschitz ResNets
di: Murari, Davide, et al.
Pubblicazione: (2025)
di: Murari, Davide, et al.
Pubblicazione: (2025)
Interpreting the Residual Stream of ResNet18
di: Longon, André
Pubblicazione: (2024)
di: Longon, André
Pubblicazione: (2024)
Generalization of Scaled Deep ResNets in the Mean-Field Regime
di: Chen, Yihang, et al.
Pubblicazione: (2024)
di: Chen, Yihang, et al.
Pubblicazione: (2024)
Generalization through variance: how noise shapes inductive biases in diffusion models
di: Vastola, John J.
Pubblicazione: (2025)
di: Vastola, John J.
Pubblicazione: (2025)
ActNetFormer: Transformer-ResNet Hybrid Method for Semi-Supervised Action Recognition in Videos
di: Dass, Sharana Dharshikgan Suresh, et al.
Pubblicazione: (2024)
di: Dass, Sharana Dharshikgan Suresh, et al.
Pubblicazione: (2024)
Towards an Optimal Control Perspective of ResNet Training
di: Püttschneider, Jens, et al.
Pubblicazione: (2025)
di: Püttschneider, Jens, et al.
Pubblicazione: (2025)
On Dissipativity of Cross-Entropy Loss in Training ResNets
di: Püttschneider, Jens, et al.
Pubblicazione: (2024)
di: Püttschneider, Jens, et al.
Pubblicazione: (2024)
Field theory for optimal signal propagation in ResNets
di: Fischer, Kirsten, et al.
Pubblicazione: (2023)
di: Fischer, Kirsten, et al.
Pubblicazione: (2023)
Collective Kernel EFT for Pre-activation ResNets
di: Kawase, Hidetoshi, et al.
Pubblicazione: (2026)
di: Kawase, Hidetoshi, et al.
Pubblicazione: (2026)
Spatially Resolved Gene Expression Prediction from Histology via Multi-view Graph Contrastive Learning with HSIC-bottleneck Regularization
di: Chi, Changxi, et al.
Pubblicazione: (2024)
di: Chi, Changxi, et al.
Pubblicazione: (2024)
Symmetry breaking for inductive logic programming
di: Cropper, Andrew, et al.
Pubblicazione: (2025)
di: Cropper, Andrew, et al.
Pubblicazione: (2025)
Documenti analoghi
-
Secret mixtures of experts inside your LLM
di: Boix-Adsera, Enric
Pubblicazione: (2025) -
Towards a theory of model distillation
di: Boix-Adsera, Enric
Pubblicazione: (2024) -
The power of fine-grained experts: Granularity boosts expressivity in Mixture of Experts
di: Boix-Adsera, Enric, et al.
Pubblicazione: (2025) -
The Features at Convergence Theorem: a first-principles alternative to the Neural Feature Ansatz for how networks learn representations
di: Boix-Adsera, Enric, et al.
Pubblicazione: (2025) -
Toward universal steering and monitoring of AI models
di: Beaglehole, Daniel, et al.
Pubblicazione: (2025)