Spatio-Temporal Pruning for Compressed Spiking Large Language Models
Fuente:
arXiv
Salvato in:
| Autori principali: | Jiang, Yi, Bal, Malyaban, Matejek, Brian, Jha, Susmit, Cobb, Adam, Sengupta, Abhronil |
|---|---|
| Natura: | Preprint |
| Pubblicazione: |
2025
|
| Soggetti: | |
| Accesso online: | |
| Tags: |
Aggiungi Tag
Nessun Tag, puoi essere il primo ad aggiungerne!!
|
Documenti analoghi
RMAAT: Astrocyte-Inspired Memory Compression and Replay for Efficient Long-Context Transformers
di: Mia, Md Zesun Ahmed, et al.
Pubblicazione: (2026)
di: Mia, Md Zesun Ahmed, et al.
Pubblicazione: (2026)
Delving Deeper Into Astromorphic Transformers
di: Mia, Md Zesun Ahmed, et al.
Pubblicazione: (2023)
di: Mia, Md Zesun Ahmed, et al.
Pubblicazione: (2023)
SpikingBERT: Distilling BERT to Train Spiking Language Models Using Implicit Differentiation
di: Bal, Malyaban, et al.
Pubblicazione: (2023)
di: Bal, Malyaban, et al.
Pubblicazione: (2023)
Exploring Extreme Quantization in Spiking Language Models
di: Bal, Malyaban, et al.
Pubblicazione: (2024)
di: Bal, Malyaban, et al.
Pubblicazione: (2024)
P-SpikeSSM: Harnessing Probabilistic Spiking State Space Models for Long-Range Dependency Tasks
di: Bal, Malyaban, et al.
Pubblicazione: (2024)
di: Bal, Malyaban, et al.
Pubblicazione: (2024)
Neuromorphic Cybersecurity with Semi-supervised Lifelong Learning
di: Mia, Md Zesun Ahmed, et al.
Pubblicazione: (2025)
di: Mia, Md Zesun Ahmed, et al.
Pubblicazione: (2025)
GRASP: GRouped Activation Shared Parameterization for Parameter-Efficient Fine-Tuning and Robust Inference of Transformers
di: Bal, Malyaban, et al.
Pubblicazione: (2025)
di: Bal, Malyaban, et al.
Pubblicazione: (2025)
Scaling SNNs Trained Using Equilibrium Propagation to Convolutional Architectures
di: Lin, Jiaqi, et al.
Pubblicazione: (2024)
di: Lin, Jiaqi, et al.
Pubblicazione: (2024)
Scalable Equilibrium Propagation via Intermediate Error Signals for Deep Convolutional CRNNs
di: Lin, Jiaqi, et al.
Pubblicazione: (2025)
di: Lin, Jiaqi, et al.
Pubblicazione: (2025)
Trilinear Compute-in-Memory Architecture for Energy-Efficient Transformer Acceleration
di: Mia, Md Zesun Ahmed, et al.
Pubblicazione: (2026)
di: Mia, Md Zesun Ahmed, et al.
Pubblicazione: (2026)
To Spike or Not to Spike, that is the Question
di: Takaghaj, Sanaz Mahmoodi, et al.
Pubblicazione: (2024)
di: Takaghaj, Sanaz Mahmoodi, et al.
Pubblicazione: (2024)
Benchmarking Spiking Neural Network Learning Methods with Varying Locality
di: Lin, Jiaqi, et al.
Pubblicazione: (2024)
di: Lin, Jiaqi, et al.
Pubblicazione: (2024)
A Compact Gated-Synapse Model for Neuromorphic Circuits
di: Jones, Alexander, et al.
Pubblicazione: (2020)
di: Jones, Alexander, et al.
Pubblicazione: (2020)
Biologically-Informed Excitatory and Inhibitory Balance for Robust Spiking Neural Network Training
di: Kilgore, Joseph A., et al.
Pubblicazione: (2024)
di: Kilgore, Joseph A., et al.
Pubblicazione: (2024)
Transductive Spiking Graph Neural Networks for Loihi
di: Snyder, Shay, et al.
Pubblicazione: (2024)
di: Snyder, Shay, et al.
Pubblicazione: (2024)
Compressed Latent Replays for Lightweight Continual Learning on Spiking Neural Networks
di: Dequino, Alberto, et al.
Pubblicazione: (2024)
di: Dequino, Alberto, et al.
Pubblicazione: (2024)
Memristor-Based Spiking Neural Network Accelerator for Bio-inspired Interception Task
di: Qu, Qianhou, et al.
Pubblicazione: (2026)
di: Qu, Qianhou, et al.
Pubblicazione: (2026)
Efficient Memristive Spiking Neural Networks Architecture with Supervised In-Situ STDP Method
di: Prajapati, Santlal, et al.
Pubblicazione: (2025)
di: Prajapati, Santlal, et al.
Pubblicazione: (2025)
SpiNNaker2: A Large-Scale Neuromorphic System for Event-Based and Asynchronous Machine Learning
di: Gonzalez, Hector A., et al.
Pubblicazione: (2024)
di: Gonzalez, Hector A., et al.
Pubblicazione: (2024)
Spike-based alignment learning solves the weight transport problem
di: Gierlich, Timo, et al.
Pubblicazione: (2025)
di: Gierlich, Timo, et al.
Pubblicazione: (2025)
Bayesian Inference on Binary Spiking Networks Leveraging Nanoscale Device Stochasticity
di: Katti, Prabodh, et al.
Pubblicazione: (2023)
di: Katti, Prabodh, et al.
Pubblicazione: (2023)
Physical Foundation Models: Fixed hardware implementations of large-scale neural networks
di: Wright, Logan G, et al.
Pubblicazione: (2026)
di: Wright, Logan G, et al.
Pubblicazione: (2026)
SEPhIA: <1 laser/neuron Spiking Electro-Photonic Integrated Multi-Tiled Architecture for Scalable Optical Neuromorphic Computing
di: Hejda, Matěj, et al.
Pubblicazione: (2025)
di: Hejda, Matěj, et al.
Pubblicazione: (2025)
Stochastic Spiking Neural Networks with First-to-Spike Coding
di: Jiang, Yi, et al.
Pubblicazione: (2024)
di: Jiang, Yi, et al.
Pubblicazione: (2024)
Towards Efficient Formal Verification of Spiking Neural Network
di: Seong, Baekryun, et al.
Pubblicazione: (2024)
di: Seong, Baekryun, et al.
Pubblicazione: (2024)
A Quantum Leaky Integrate-and-Fire Spiking Neuron and Network
di: Brand, Dean, et al.
Pubblicazione: (2024)
di: Brand, Dean, et al.
Pubblicazione: (2024)
Insect-Wing Structured Microfluidic System for Reservoir Computing
di: Clouse, Jacob, et al.
Pubblicazione: (2025)
di: Clouse, Jacob, et al.
Pubblicazione: (2025)
Gradient-descent hardware-aware training and deployment for mixed-signal Neuromorphic processors
di: Çakal, Uğurcan, et al.
Pubblicazione: (2023)
di: Çakal, Uğurcan, et al.
Pubblicazione: (2023)
Reservoir Computing Benchmarks: a tutorial review and critique
di: Wringe, Chester, et al.
Pubblicazione: (2024)
di: Wringe, Chester, et al.
Pubblicazione: (2024)
Analog Optical Inference on Million-Record Mortgage Data
di: Berloff, Sofia, et al.
Pubblicazione: (2026)
di: Berloff, Sofia, et al.
Pubblicazione: (2026)
Self-Adaptive Ising Machines for Constrained Optimization
di: Delacour, Corentin
Pubblicazione: (2025)
di: Delacour, Corentin
Pubblicazione: (2025)
Training Deep Boltzmann Networks with Sparse Ising Machines
di: Niazi, Shaila, et al.
Pubblicazione: (2023)
di: Niazi, Shaila, et al.
Pubblicazione: (2023)
Gradient descent in materia through homodyne gradient extraction
di: Boon, Marcus N., et al.
Pubblicazione: (2021)
di: Boon, Marcus N., et al.
Pubblicazione: (2021)
Learning Dynamics in Memristor-Based Equilibrium Propagation
di: Döll, Michael, et al.
Pubblicazione: (2025)
di: Döll, Michael, et al.
Pubblicazione: (2025)
Unsupervised End-to-End Training with a Self-Defined Target
di: Liu, Dongshu, et al.
Pubblicazione: (2024)
di: Liu, Dongshu, et al.
Pubblicazione: (2024)
A Path to Universal Neural Cellular Automata
di: Béna, Gabriel, et al.
Pubblicazione: (2025)
di: Béna, Gabriel, et al.
Pubblicazione: (2025)
DelGrad: Exact event-based gradients for training delays and weights on spiking neuromorphic hardware
di: Göltz, Julian, et al.
Pubblicazione: (2024)
di: Göltz, Julian, et al.
Pubblicazione: (2024)
Deep Neuromorphic Networks with Superconducting Single Flux Quanta
di: Krylov, Gleb, et al.
Pubblicazione: (2023)
di: Krylov, Gleb, et al.
Pubblicazione: (2023)
AI-Guided Codesign Framework for Novel Material and Device Design applied to MTJ-based True Random Number Generators
di: Patel, Karan P., et al.
Pubblicazione: (2024)
di: Patel, Karan P., et al.
Pubblicazione: (2024)
Neuromorphic on-chip reservoir computing with spiking neural network architectures
di: Karki, Samip, et al.
Pubblicazione: (2024)
di: Karki, Samip, et al.
Pubblicazione: (2024)
Documenti analoghi
-
RMAAT: Astrocyte-Inspired Memory Compression and Replay for Efficient Long-Context Transformers
di: Mia, Md Zesun Ahmed, et al.
Pubblicazione: (2026) -
Delving Deeper Into Astromorphic Transformers
di: Mia, Md Zesun Ahmed, et al.
Pubblicazione: (2023) -
SpikingBERT: Distilling BERT to Train Spiking Language Models Using Implicit Differentiation
di: Bal, Malyaban, et al.
Pubblicazione: (2023) -
Exploring Extreme Quantization in Spiking Language Models
di: Bal, Malyaban, et al.
Pubblicazione: (2024) -
P-SpikeSSM: Harnessing Probabilistic Spiking State Space Models for Long-Range Dependency Tasks
di: Bal, Malyaban, et al.
Pubblicazione: (2024)