Optimal Learning Rate Schedule for Balancing Effort and Performance
Fuente:
arXiv
Salvato in:
| Autori principali: | Njaradi, Valentina, Carrasco-Davis, Rodrigo, Latham, Peter E., Saxe, Andrew |
|---|---|
| Natura: | Preprint |
| Pubblicazione: |
2026
|
| Soggetti: | |
| Accesso online: | |
| Tags: |
Aggiungi Tag
Nessun Tag, puoi essere il primo ad aggiungerne!!
|
Documenti analoghi
Meta-Learning Strategies through Value Maximization in Neural Networks
di: Carrasco-Davis, Rodrigo, et al.
Pubblicazione: (2023)
di: Carrasco-Davis, Rodrigo, et al.
Pubblicazione: (2023)
SpikeFit: Towards Optimal Deployment of Spiking Networks on Neuromorphic Hardware
di: Kartashov, Ivan, et al.
Pubblicazione: (2025)
di: Kartashov, Ivan, et al.
Pubblicazione: (2025)
TopoNets: High Performing Vision and Language Models with Brain-Like Topography
di: Deb, Mayukh, et al.
Pubblicazione: (2025)
di: Deb, Mayukh, et al.
Pubblicazione: (2025)
Graph-Based Representation Learning of Neuronal Dynamics and Behavior
di: Khajehnejad, Moein, et al.
Pubblicazione: (2024)
di: Khajehnejad, Moein, et al.
Pubblicazione: (2024)
Expressivity of Neural Networks with Random Weights and Learned Biases
di: Williams, Ezekiel, et al.
Pubblicazione: (2024)
di: Williams, Ezekiel, et al.
Pubblicazione: (2024)
Stimulus-to-Stimulus Learning in RNNs with Cortical Inductive Biases
di: Vafidis, Pantelis, et al.
Pubblicazione: (2024)
di: Vafidis, Pantelis, et al.
Pubblicazione: (2024)
R-FORCE: Robust Learning for Random Recurrent Neural Networks
di: Zheng, Yang, et al.
Pubblicazione: (2020)
di: Zheng, Yang, et al.
Pubblicazione: (2020)
Meta-Representational Predictive Coding: Biomimetic Self-Supervised Learning
di: Ororbia, Alexander, et al.
Pubblicazione: (2025)
di: Ororbia, Alexander, et al.
Pubblicazione: (2025)
Learning efficient backprojections across cortical hierarchies in real time
di: Max, Kevin, et al.
Pubblicazione: (2022)
di: Max, Kevin, et al.
Pubblicazione: (2022)
Fault-Tolerant Neural Networks from Biological Error Correction Codes
di: Zlokapa, Alexander, et al.
Pubblicazione: (2022)
di: Zlokapa, Alexander, et al.
Pubblicazione: (2022)
Phasor Agents: Oscillatory Graphs with Three-Factor Plasticity and Sleep-Staged Learning
di: Trappe, Rodja
Pubblicazione: (2026)
di: Trappe, Rodja
Pubblicazione: (2026)
Feature Learning beyond the Lazy-Rich Dichotomy: Insights from Representational Geometry
di: Chou, Chi-Ning, et al.
Pubblicazione: (2025)
di: Chou, Chi-Ning, et al.
Pubblicazione: (2025)
Dynamics and Representation Structure of Local Approximations to Gradient-Based Learning in Linear Recurrent Neural Networks
di: Williams, Ezekiel, et al.
Pubblicazione: (2026)
di: Williams, Ezekiel, et al.
Pubblicazione: (2026)
FPGA Deployment of LFADS for Real-time Neuroscience Experiments
di: Liu, Xiaohan, et al.
Pubblicazione: (2024)
di: Liu, Xiaohan, et al.
Pubblicazione: (2024)
Range, not Independence, Drives Modularity in Biologically Inspired Representations
di: Dorrell, Will, et al.
Pubblicazione: (2024)
di: Dorrell, Will, et al.
Pubblicazione: (2024)
Joint sparse coding and temporal dynamics support context reconfiguration
di: Shi, Qianqian, et al.
Pubblicazione: (2026)
di: Shi, Qianqian, et al.
Pubblicazione: (2026)
Cross-Species RSA Reveals Conserved Early Visual Alignment but Divergent Higher-Area Rankings Across Human fMRI and Macaque Electrophysiology
di: Leutenegger, Nils
Pubblicazione: (2026)
di: Leutenegger, Nils
Pubblicazione: (2026)
Self-supervised local learning rules learn the hidden hierarchical structure of high-dimensional data
di: Delrocq, Ariane, et al.
Pubblicazione: (2026)
di: Delrocq, Ariane, et al.
Pubblicazione: (2026)
Growing a Neural Network in Breadth, Depth, and Time
di: Butkus, Eivinas, et al.
Pubblicazione: (2026)
di: Butkus, Eivinas, et al.
Pubblicazione: (2026)
Bayesian Theory of Consciousness as Exchangeable Emotion-Cognition Inference
di: Li, Xin
Pubblicazione: (2024)
di: Li, Xin
Pubblicazione: (2024)
ArtifactGen: Benchmarking WGAN-GP vs Diffusion for Label-Aware EEG Artifact Synthesis
di: Arasu, Hritik, et al.
Pubblicazione: (2025)
di: Arasu, Hritik, et al.
Pubblicazione: (2025)
Spike-Timing-Dependent Plasticity for Bernoulli Message Passing
di: Adamiat, Sepideh, et al.
Pubblicazione: (2025)
di: Adamiat, Sepideh, et al.
Pubblicazione: (2025)
ISAM-MTL: Cross-subject multi-task learning model with identifiable spikes and associative memory networks
di: Li, Junyan, et al.
Pubblicazione: (2025)
di: Li, Junyan, et al.
Pubblicazione: (2025)
Storing overlapping associative memories on latent manifolds in low-rank spiking networks
di: Podlaski, William F., et al.
Pubblicazione: (2024)
di: Podlaski, William F., et al.
Pubblicazione: (2024)
On the relationship between predictive coding and backpropagation
di: Rosenbaum, Robert
Pubblicazione: (2021)
di: Rosenbaum, Robert
Pubblicazione: (2021)
Neuroformer: Multimodal and Multitask Generative Pretraining for Brain Data
di: Antoniades, Antonis, et al.
Pubblicazione: (2023)
di: Antoniades, Antonis, et al.
Pubblicazione: (2023)
On Design Choices in Similarity-Preserving Sparse Randomized Embeddings
di: Kleyko, Denis, et al.
Pubblicazione: (2024)
di: Kleyko, Denis, et al.
Pubblicazione: (2024)
Dendrites endow artificial neural networks with accurate, robust and parameter-efficient learning
di: Chavlis, Spyridon, et al.
Pubblicazione: (2024)
di: Chavlis, Spyridon, et al.
Pubblicazione: (2024)
Synaptic Weight Distributions Depend on the Geometry of Plasticity
di: Pogodin, Roman, et al.
Pubblicazione: (2023)
di: Pogodin, Roman, et al.
Pubblicazione: (2023)
The dynamic interplay between in-context and in-weight learning in humans and neural networks
di: Russin, Jacob, et al.
Pubblicazione: (2024)
di: Russin, Jacob, et al.
Pubblicazione: (2024)
Why all roads don't lead to Rome: Representation geometry varies across the human visual cortical hierarchy
di: Ghosh, Arna, et al.
Pubblicazione: (2025)
di: Ghosh, Arna, et al.
Pubblicazione: (2025)
Perforated Backpropagation: A Neuroscience Inspired Extension to Artificial Neural Networks
di: Brenner, Rorry, et al.
Pubblicazione: (2025)
di: Brenner, Rorry, et al.
Pubblicazione: (2025)
BLEND: Behavior-guided Neural Population Dynamics Modeling via Privileged Knowledge Distillation
di: Guo, Zhengrui, et al.
Pubblicazione: (2024)
di: Guo, Zhengrui, et al.
Pubblicazione: (2024)
Mitigating Communication Costs in Neural Networks: The Role of Dendritic Nonlinearity
di: Wu, Xundong, et al.
Pubblicazione: (2023)
di: Wu, Xundong, et al.
Pubblicazione: (2023)
Emergence of the Primacy Effect in Structured State-Space Models
di: Morita, Takashi
Pubblicazione: (2025)
di: Morita, Takashi
Pubblicazione: (2025)
Neural Models of Task Adaptation: A Tutorial on Spiking Networks for Executive Control
di: Kannan, Ashwin Viswanathan, et al.
Pubblicazione: (2025)
di: Kannan, Ashwin Viswanathan, et al.
Pubblicazione: (2025)
Sufficient conditions for offline reactivation in recurrent neural networks
di: Krishna, Nanda H., et al.
Pubblicazione: (2025)
di: Krishna, Nanda H., et al.
Pubblicazione: (2025)
Contribute to balance, wire in accordance: Emergence of backpropagation from a simple, bio-plausible neuroplasticity rule
di: Fan, Xinhao, et al.
Pubblicazione: (2024)
di: Fan, Xinhao, et al.
Pubblicazione: (2024)
The Generalist Brain Module: Module Repetition in Neural Networks in Light of the Minicolumn Hypothesis
di: Kvalsund, Mia-Katrin, et al.
Pubblicazione: (2025)
di: Kvalsund, Mia-Katrin, et al.
Pubblicazione: (2025)
Boosting Reservoir Computing with Brain-inspired Adaptive Dynamics
di: Srinivasan, Keshav, et al.
Pubblicazione: (2025)
di: Srinivasan, Keshav, et al.
Pubblicazione: (2025)
Documenti analoghi
-
Meta-Learning Strategies through Value Maximization in Neural Networks
di: Carrasco-Davis, Rodrigo, et al.
Pubblicazione: (2023) -
SpikeFit: Towards Optimal Deployment of Spiking Networks on Neuromorphic Hardware
di: Kartashov, Ivan, et al.
Pubblicazione: (2025) -
TopoNets: High Performing Vision and Language Models with Brain-Like Topography
di: Deb, Mayukh, et al.
Pubblicazione: (2025) -
Graph-Based Representation Learning of Neuronal Dynamics and Behavior
di: Khajehnejad, Moein, et al.
Pubblicazione: (2024) -
Expressivity of Neural Networks with Random Weights and Learned Biases
di: Williams, Ezekiel, et al.
Pubblicazione: (2024)