Buchumschlag

The Weight Gram Matrix Captures Sequential Feature Linearization in Deep Networks

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Cha, Taehun, Beaglehole, Daniel, Radhakrishnan, Adityanarayanan, Lee, Donghun
Format:	Preprint
Veröffentlicht:	2026
Schlagworte:	Machine Learning Artificial Intelligence
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

ABC3: Active Bayesian Causal Inference with Cohn Criteria in Randomized Experiments
von: Cha, Taehun, et al.
Veröffentlicht: (2024)

Toward universal steering and monitoring of AI models
von: Beaglehole, Daniel, et al.
Veröffentlicht: (2025)

xRFM: Accurate, scalable, and interpretable feature learning models for tabular data
von: Beaglehole, Daniel, et al.
Veröffentlicht: (2025)

OPC: One-Point-Contraction Unlearning Toward Deep Feature Forgetting
von: Jung, Jaeheun, et al.
Veröffentlicht: (2025)

Feature learning as alignment: a structural property of gradient descent in non-linear neural networks
von: Beaglehole, Daniel, et al.
Veröffentlicht: (2024)

Linear Recursive Feature Machines provably recover low-rank matrices
von: Radhakrishnan, Adityanarayanan, et al.
Veröffentlicht: (2024)

Catalyst: a Novel Regularizer for Structured Pruning with Auxiliary Extension of Parameter Space
von: Jung, Jaeheun, et al.
Veröffentlicht: (2025)

Emergence in non-neural models: grokking modular arithmetic via average gradient outer product
von: Mallinar, Neil, et al.
Veröffentlicht: (2024)

IPPRO: Importance-based Pruning with PRojective Offset for Magnitude-indifferent Structural Pruning
von: Jung, Jaeheun, et al.
Veröffentlicht: (2025)

Deep Matrix Factorization with Adaptive Weights for Multi-View Clustering
von: Khalafaoui, Yasser, et al.
Veröffentlicht: (2024)

Steering Autoregressive Music Generation with Recursive Feature Machines
von: Zhao, Daniel, et al.
Veröffentlicht: (2025)

On the Weight Dynamics of Deep Normalized Networks
von: Mehmeti-Göpel, Christian H. X. Ali, et al.
Veröffentlicht: (2023)

Contextual Linear Activation Steering of Language Models
von: Hsu, Brandon, et al.
Veröffentlicht: (2026)

Three Mechanisms of Feature Learning in a Linear Network
von: Xu, Yizhou, et al.
Veröffentlicht: (2024)

Capturing Individual Human Preferences with Reward Features
von: Barreto, André, et al.
Veröffentlicht: (2025)

Deep Fusion: Capturing Dependencies in Contrastive Learning via Transformer Projection Heads
von: Li, Huanran, et al.
Veröffentlicht: (2024)

Adaptive Weighted Loss for Sequential Recommendations on Sparse Domains
von: Mittal, Akshay, et al.
Veröffentlicht: (2025)

Deep Feature Embedding for Tabular Data
von: Wu, Yuqian, et al.
Veröffentlicht: (2024)

NeuralMatrix: Compute the Entire Neural Networks with Linear Matrix Operations for Efficient Inference
von: Sun, Ruiqi, et al.
Veröffentlicht: (2023)

Broadband Ground Motion Synthesis by Diffusion Model with Minimal Condition
von: Jung, Jaeheun, et al.
Veröffentlicht: (2024)

Capture Global Feature Statistics for One-Shot Federated Learning
von: Guan, Zenghao, et al.
Veröffentlicht: (2025)

Efficient and accurate steering of Large Language Models through attention-guided feature learning
von: Davarmanesh, Parmida, et al.
Veröffentlicht: (2026)

Learning Distinguishable Representations in Deep Q-Networks for Linear Transfer
von: Sathish, Sooraj, et al.
Veröffentlicht: (2025)

AdaResNet: Enhancing Residual Networks with Dynamic Weight Adjustment for Improved Feature Integration
von: Su, Hong
Veröffentlicht: (2024)

Deep Reinforcement Learning for Inventory Networks: Toward Reliable Policy Optimization
von: Alvo, Matias, et al.
Veröffentlicht: (2023)

Diffusion-Based Neural Network Weights Generation
von: Soro, Bedionita, et al.
Veröffentlicht: (2024)

Linear Mode Connectivity in Sparse Neural Networks
von: McDermott, Luke, et al.
Veröffentlicht: (2023)

Shortcut Features as Top Eigenfunctions of NTK: A Linear Neural Network Case and More
von: Lim, Jinwoo, et al.
Veröffentlicht: (2026)

LatentTrack: Sequential Weight Generation via Latent Filtering
von: Haq, Omer
Veröffentlicht: (2026)

Robust Weight Initialization for Tanh Neural Networks with Fixed Point Analysis
von: Lee, Hyunwoo, et al.
Veröffentlicht: (2024)

Feature Shift Localization Network
von: Barrabés, Míriam, et al.
Veröffentlicht: (2025)

DeepDFA: Injecting Temporal Logic in Deep Learning for Sequential Subsymbolic Applications
von: Umili, Elena, et al.
Veröffentlicht: (2026)

Solving Deep Reinforcement Learning Tasks with Evolution Strategies and Linear Policy Networks
von: Wong, Annie, et al.
Veröffentlicht: (2024)

Is Distance Matrix Enough for Geometric Deep Learning?
von: Li, Zian, et al.
Veröffentlicht: (2023)

Pre-trained Language Models Return Distinguishable Probability Distributions to Unfaithfully Hallucinated Texts
von: Cha, Taehun, et al.
Veröffentlicht: (2024)

Deep Learning Evidence for Global Optimality of Gerver's Sofa
von: Leng, Kuangdai, et al.
Veröffentlicht: (2024)

Sequential Order-Robust Mamba for Time Series Forecasting
von: Lee, Seunghan, et al.
Veröffentlicht: (2024)

Weight Concentration Regularization for Improving Pruning Robustness Under High Sparsity
von: Yun, Vincent-Daniel, et al.
Veröffentlicht: (2025)

Sequential Feature Selection for Efficient Landslide Segmentation from Multi-Spectral Data
von: Ahmad, Arsalaan, et al.
Veröffentlicht: (2026)

Class-Level Feature Selection Method Using Feature Weighted Growing Self-Organising Maps
von: Starkey, Andrew, et al.
Veröffentlicht: (2025)