Buchumschlag

Impact of Bottleneck Layers and Skip Connections on the Generalization of Linear Denoising Autoencoders

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Ham, Jonghyun, Fleissner, Maximilian, Ghoshdastidar, Debarghya
Format:	Preprint
Veröffentlicht:	2025
Schlagworte:	Machine Learning
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Theoretical Foundations of Representation Learning using Unlabeled Data: Statistics and Optimization
von: Esser, Pascal, et al.
Veröffentlicht: (2025)

A Probabilistic Model for Non-Contrastive Learning
von: Fleissner, Maximilian, et al.
Veröffentlicht: (2025)

Explainable Clustering Beyond Worst-Case Guarantees
von: Fleissner, Maximilian, et al.
Veröffentlicht: (2024)

A Theoretical Characterization of Optimal Data Augmentations in Self-Supervised Learning
von: Feigin, Shlomo Libo, et al.
Veröffentlicht: (2024)

Explaining Kernel Clustering via Decision Trees
von: Fleissner, Maximilian, et al.
Veröffentlicht: (2024)

Infinite Width Limits of Self Supervised Neural Networks
von: Fleissner, Maximilian, et al.
Veröffentlicht: (2024)

Transformers Provably Learn Sparse XOR with Polylogarithmic Parameters
von: Han, Yaomengxi, et al.
Veröffentlicht: (2025)

Generalization Certificates for Adversarially Robust Bayesian Linear Regression
von: Sabanayagam, Mahalakshmi, et al.
Veröffentlicht: (2025)

Non-Singularity of the Gradient Descent map for Neural Networks with Piecewise Analytic Activations
von: Crăciun, Alexandru, et al.
Veröffentlicht: (2025)

On the Convergence of Gradient Descent for Large Learning Rates
von: Crăciun, Alexandru, et al.
Veröffentlicht: (2024)

Tight PAC-Bayesian Risk Certificates for Contrastive Learning
von: Van Elst, Anna, et al.
Veröffentlicht: (2024)

Exact Generalisation Error Exposes Benchmarks Skew Graph Neural Networks Success (or Failure)
von: Ayday, Nil, et al.
Veröffentlicht: (2025)

Recovering Imbalanced Clusters via Gradient-Based Projection Pursuit
von: Eppert, Martin, et al.
Veröffentlicht: (2025)

Gaussian Process Limit Reveals Structural Benefits of Graph Transformers
von: Ayday, Nil, et al.
Veröffentlicht: (2026)

When can we Approximate Wide Contrastive Models with Neural Tangent Kernels and Principal Component Analysis?
von: Anil, Gautham Govind, et al.
Veröffentlicht: (2024)

Interpretable Self-Supervised Learning via Representer Landmarks and Nyström Approximation
von: Zarvandi, Maedeh, et al.
Veröffentlicht: (2025)

Nonparametric Kernel Clustering with Bandit Feedback
von: Thuot, Victor, et al.
Veröffentlicht: (2026)

Robustness Certificates for Neural Networks against Adversarial Attacks
von: Taheri, Sara, et al.
Veröffentlicht: (2025)

Exact Certification of (Graph) Neural Networks Against Label Poisoning
von: Sabanayagam, Mahalakshmi, et al.
Veröffentlicht: (2024)

Provable Robustness of (Graph) Neural Networks Against Data Poisoning and Backdoor Attacks
von: Gosch, Lukas, et al.
Veröffentlicht: (2024)

Robust Feature Inference: A Test-time Defense Strategy using Spectral Projections
von: Singh, Anurag, et al.
Veröffentlicht: (2023)

Different Statistical Perspectives for Understanding Generalisation in Graph Neural Networks
von: Ayday, Nil, et al.
Veröffentlicht: (2026)

Exact Certification of Neural Networks and Partition Aggregation Ensembles against Label Poisoning
von: Mohgaonkar, Ajinkya, et al.
Veröffentlicht: (2026)

Computing Linear Regions in Neural Networks with Skip Connections
von: Joyce, Johnny, et al.
Veröffentlicht: (2025)

On the Adversarial Transferability of Generalized "Skip Connections"
von: Wang, Yisen, et al.
Veröffentlicht: (2024)

Layer-wise Linear Mode Connectivity
von: Adilova, Linara, et al.
Veröffentlicht: (2023)

Can an MLP Absorb Its Own Skip Connection?
von: Mijoski, Antonij, et al.
Veröffentlicht: (2026)

Learning to Skip the Middle Layers of Transformers
von: Lawson, Tim, et al.
Veröffentlicht: (2025)

Skip-Connected Policy Optimization for Implicit Advantage
von: Teng, Fengwei, et al.
Veröffentlicht: (2026)

Lambda-Skip Connections: the architectural component that prevents Rank Collapse
von: Joseph, Federico Arangath, et al.
Veröffentlicht: (2024)

Probabilistic Skip Connections for Deterministic Uncertainty Quantification in Deep Neural Networks
von: Jimenez, Felix, et al.
Veröffentlicht: (2025)

Efficient Skip Connections Realization for Secure Inference on Encrypted Data
von: Drucker, Nir, et al.
Veröffentlicht: (2023)

Reduce Computational Complexity for Convolutional Layers by Skipping Zeros
von: Zhang, Zhiyi, et al.
Veröffentlicht: (2023)

Only Large Weights (And Not Skip Connections) Can Prevent the Perils of Rank Collapse
von: Alman, Josh, et al.
Veröffentlicht: (2025)

Conditional Denoising Diffusion Autoencoders for Wireless Semantic Communications
von: Letafati, Mehdi, et al.
Veröffentlicht: (2025)

SkipViT: Speeding Up Vision Transformers with a Token-Level Skip Connection
von: Ataiefard, Foozhan, et al.
Veröffentlicht: (2024)

Transfer Learning on Edge Connecting Probability Estimation under Graphon Model
von: Wang, Yuyao, et al.
Veröffentlicht: (2025)

ConfLayers: Adaptive Confidence-based Layer Skipping for Self-Speculative Decoding
von: Amer, Walaa, et al.
Veröffentlicht: (2026)

Aircraft Radar Altimeter Interference Mitigation Through a CNN-Layer Only Denoising Autoencoder Architecture
von: Brown, Samuel B., et al.
Veröffentlicht: (2024)

Interpretable and Steerable Concept Bottleneck Sparse Autoencoders
von: Kulkarni, Akshay, et al.
Veröffentlicht: (2025)