Buchumschlag

Linearly Separable Features in Shallow Nonlinear Networks: Width Scales Polynomially with Intrinsic Data Dimension

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Xu, Alec S., Yaras, Can, Wang, Peng, Qu, Qing
Format:	Preprint
Veröffentlicht:	2025
Schlagworte:	Machine Learning Computer Vision and Pattern Recognition
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Explaining and Mitigating the Modality Gap in Contrastive Multimodal Learning
von: Yaras, Can, et al.
Veröffentlicht: (2024)

Understanding Deep Representation Learning via Layerwise Feature Compression and Discrimination
von: Wang, Peng, et al.
Veröffentlicht: (2023)

Measuring Feature Dependency of Neural Networks by Collapsing Feature Dimensions in the Data Manifold
von: Jin, Yinzhu, et al.
Veröffentlicht: (2024)

Shallow Diffuse: Robust and Invisible Watermarking through Low-Dimensional Subspaces in Diffusion Models
von: Li, Wenda, et al.
Veröffentlicht: (2024)

An Intrinsic Vector Heat Network
von: Gao, Alexander, et al.
Veröffentlicht: (2024)

Linearized Attention Cannot Enter the Kernel Regime at Any Practical Width
von: Miñoza, Jose Marie Antonio, et al.
Veröffentlicht: (2026)

Exploring Deep-to-Shallow Transformable Neural Networks for Intelligent Embedded Systems
von: Luo, Xiangzhong, et al.
Veröffentlicht: (2025)

Intrinsic Dimension Correlation: uncovering nonlinear connections in multimodal representations
von: Basile, Lorenzo, et al.
Veröffentlicht: (2024)

SDS-Net: Shallow-Deep Synergism-detection Network for infrared small target detection
von: Yue, Taoran, et al.
Veröffentlicht: (2025)

ConceptAttention: Diffusion Transformers Learn Highly Interpretable Features
von: Helbling, Alec, et al.
Veröffentlicht: (2025)

AdaPerceiver: Transformers with Adaptive Width, Depth, and Tokens
von: Jajal, Purvish, et al.
Veröffentlicht: (2025)

Pursuing Feature Separation based on Neural Collapse for Out-of-Distribution Detection
von: Wu, Yingwen, et al.
Veröffentlicht: (2024)

Diffusion Models Learn Low-Dimensional Distributions via Subspace Clustering
von: Wang, Peng, et al.
Veröffentlicht: (2024)

Exploring Low-Dimensional Subspaces in Diffusion Models for Controllable Image Editing
von: Chen, Siyi, et al.
Veröffentlicht: (2024)

Emergent Low-Rank Training Dynamics in MLPs with Smooth Activations
von: Xu, Alec S., et al.
Veröffentlicht: (2026)

Efficient, Validation-Free Intrinsic Quality Estimation for Large-Scale Face Recognition Datasets
von: Chen, Zhichao, et al.
Veröffentlicht: (2026)

Analytical Softmax Temperature Setting from Feature Dimensions for Model- and Domain-Robust Classification
von: Hasegawa, Tatsuhito, et al.
Veröffentlicht: (2025)

Shallow Signed Distance Functions for Kinematic Collision Bodies
von: Akar, Osman, et al.
Veröffentlicht: (2024)

Data-Free Universal Attack by Exploiting the Intrinsic Vulnerability of Deep Models
von: Yan, YangTian, et al.
Veröffentlicht: (2025)

Separating Novel Features for Logical Anomaly Detection: A Straightforward yet Effective Approach
von: Lee, Kangil, et al.
Veröffentlicht: (2024)

Learning Discriminative Signed Distance Functions from Multi-scale Level-of-detail Features for 3D Anomaly Detection
von: Xiao, Haibo, et al.
Veröffentlicht: (2026)

The Emergence of Reproducibility and Generalizability in Diffusion Models
von: Zhang, Huijie, et al.
Veröffentlicht: (2023)

Understanding Generalization in Diffusion Distillation via Probability Flow Distance
von: Zhang, Huijie, et al.
Veröffentlicht: (2025)

Understanding Representation Dynamics of Diffusion Models via Low-Dimensional Modeling
von: Li, Xiao, et al.
Veröffentlicht: (2025)

Visual Prompting Upgrades Neural Network Sparsification: A Data-Model Perspective
von: Jin, Can, et al.
Veröffentlicht: (2023)

PROM: Prioritize Reduction of Multiplications Over Lower Bit-Widths for Efficient CNNs
von: Meiner, Lukas, et al.
Veröffentlicht: (2025)

Multi-modal Data Binding for Survival Analysis Modeling with Incomplete Data and Annotations
von: Qu, Linhao, et al.
Veröffentlicht: (2024)

Coordinate Descent for Network Linearization
von: Rakhlin, Vlad, et al.
Veröffentlicht: (2025)

AirIO: Learning Inertial Odometry with Enhanced IMU Feature Observability
von: Qiu, Yuheng, et al.
Veröffentlicht: (2025)

Learning with Open-world Noisy Data via Class-independent Margin in Dual Representation Space
von: Pan, Linchao, et al.
Veröffentlicht: (2025)

Joint Attention-Guided Feature Fusion Network for Saliency Detection of Surface Defects
von: Jiang, Xiaoheng, et al.
Veröffentlicht: (2024)

TFDMNet: A Novel Network Structure Combines the Time Domain and Frequency Domain Features
von: Pan, Hengyue, et al.
Veröffentlicht: (2024)

TinyFusion: Diffusion Transformers Learned Shallow
von: Fang, Gongfan, et al.
Veröffentlicht: (2024)

Analyzing and Mitigating Model Collapse in Rectified Flow Models
von: Zhu, Huminhao, et al.
Veröffentlicht: (2024)

Towards Robust Nonlinear Subspace Clustering: A Kernel Learning Approach
von: Xu, Kunpeng, et al.
Veröffentlicht: (2025)

Out-of-Distribution Generalization of In-Context Learning: A Low-Dimensional Subspace Perspective
von: Kwon, Soo Min, et al.
Veröffentlicht: (2025)

Protego: Detecting Adversarial Examples for Vision Transformers via Intrinsic Capabilities
von: Wu, Jialin, et al.
Veröffentlicht: (2025)

Robust Network Learning via Inverse Scale Variational Sparsification
von: Zhou, Zhiling, et al.
Veröffentlicht: (2024)

Learning the Unlearned: Mitigating Feature Suppression in Contrastive Learning
von: Zhang, Jihai, et al.
Veröffentlicht: (2024)

Spatio-temporal Prompting Network for Robust Video Feature Extraction
von: Sun, Guanxiong, et al.
Veröffentlicht: (2024)