SeedLM: Compressing LLM Weights into Seeds of Pseudo-Random Generators
Fuente:
arXiv
Salvato in:
| Autori principali: | Shafipour, Rasoul, Harrison, David, Horton, Maxwell, Marker, Jeffrey, Bedayat, Houman, Mehta, Sachin, Rastegari, Mohammad, Najibi, Mahyar, Naderiparizi, Saman |
|---|---|
| Natura: | Preprint |
| Pubblicazione: |
2024
|
| Soggetti: | |
| Accesso online: | |
| Tags: |
Aggiungi Tag
Nessun Tag, puoi essere il primo ad aggiungerne!!
|
Documenti analoghi
LazyLLM: Dynamic Token Pruning for Efficient Long Context LLM Inference
di: Fu, Qichen, et al.
Pubblicazione: (2024)
di: Fu, Qichen, et al.
Pubblicazione: (2024)
CatLIP: CLIP-level Visual Recognition Accuracy with 2.7x Faster Pre-training on Web-scale Image-Text Data
di: Mehta, Sachin, et al.
Pubblicazione: (2024)
di: Mehta, Sachin, et al.
Pubblicazione: (2024)
Bytes Are All You Need: Transformers Operating Directly On File Bytes
di: Horton, Maxwell, et al.
Pubblicazione: (2023)
di: Horton, Maxwell, et al.
Pubblicazione: (2023)
LEAP: Learnable End-to-End Adaptive Pruning of Large Language Models
di: Mozaffari, Mohammad, et al.
Pubblicazione: (2026)
di: Mozaffari, Mohammad, et al.
Pubblicazione: (2026)
Diffusion Models as Masked Audio-Video Learners
di: Nunez, Elvis, et al.
Pubblicazione: (2023)
di: Nunez, Elvis, et al.
Pubblicazione: (2023)
CtrlSynth: Controllable Image Text Synthesis for Data-Efficient Multimodal Learning
di: Cao, Qingqing, et al.
Pubblicazione: (2024)
di: Cao, Qingqing, et al.
Pubblicazione: (2024)
Superposition Prompting: Improving and Accelerating Retrieval-Augmented Generation
di: Merth, Thomas, et al.
Pubblicazione: (2024)
di: Merth, Thomas, et al.
Pubblicazione: (2024)
OpenELM: An Efficient Language Model Family with Open Training and Inference Framework
di: Mehta, Sachin, et al.
Pubblicazione: (2024)
di: Mehta, Sachin, et al.
Pubblicazione: (2024)
Speculative Streaming: Fast LLM Inference without Auxiliary Models
di: Bhendawade, Nikhil, et al.
Pubblicazione: (2024)
di: Bhendawade, Nikhil, et al.
Pubblicazione: (2024)
KV Prediction for Improved Time to First Token
di: Horton, Maxwell, et al.
Pubblicazione: (2024)
di: Horton, Maxwell, et al.
Pubblicazione: (2024)
From Dense to Dynamic: Token-Difficulty Driven MoEfication of Pre-Trained LLMs
di: Nishu, Kumari, et al.
Pubblicazione: (2025)
di: Nishu, Kumari, et al.
Pubblicazione: (2025)
Efficient Vision-Language Models by Summarizing Visual Tokens into Compact Registers
di: Wen, Yuxin, et al.
Pubblicazione: (2024)
di: Wen, Yuxin, et al.
Pubblicazione: (2024)
A Novel Approach for Pseudo-Random Seed Generation
di: Sacha Pelaiz
Pubblicazione: (2013)
di: Sacha Pelaiz
Pubblicazione: (2013)
SeedAIchemy: LLM-Driven Seed Corpus Generation for Fuzzing
di: Wen, Aidan, et al.
Pubblicazione: (2025)
di: Wen, Aidan, et al.
Pubblicazione: (2025)
Seed Hijacking of LLM Sampling and Quantum Random Number Defense
di: You, Ziyang, et al.
Pubblicazione: (2026)
di: You, Ziyang, et al.
Pubblicazione: (2026)
Knowledge Transfer from Vision Foundation Models for Efficient Training of Small Task-specific Models
di: Vemulapalli, Raviteja, et al.
Pubblicazione: (2023)
di: Vemulapalli, Raviteja, et al.
Pubblicazione: (2023)
Seed-to-Seed: Image Translation in Diffusion Seed Space
di: Greenberg, Or, et al.
Pubblicazione: (2024)
di: Greenberg, Or, et al.
Pubblicazione: (2024)
All Seeds Are Not Equal: Enhancing Compositional Text-to-Image Generation with Reliable Random Seeds
di: Li, Shuangqi, et al.
Pubblicazione: (2024)
di: Li, Shuangqi, et al.
Pubblicazione: (2024)
KV-Runahead: Scalable Causal LLM Inference by Parallel Key-Value Cache Generation
di: Cho, Minsik, et al.
Pubblicazione: (2024)
di: Cho, Minsik, et al.
Pubblicazione: (2024)
M2R2: Mixture of Multi-Rate Residuals for Efficient Transformer Inference
di: Bhendawade, Nikhil, et al.
Pubblicazione: (2025)
di: Bhendawade, Nikhil, et al.
Pubblicazione: (2025)
Heterotypic Seeding Generates Mixed Amyloid Polymorphs
di: Siddhartha Banerjee, et al.
Pubblicazione: (2024)
di: Siddhartha Banerjee, et al.
Pubblicazione: (2024)
Growth of Light Seed Black Holes in the Early Universe
di: Mehta, Daxal H., et al.
Pubblicazione: (2026)
di: Mehta, Daxal H., et al.
Pubblicazione: (2026)
TiC-LM: A Web-Scale Benchmark for Time-Continual LLM Pretraining
di: Li, Jeffrey, et al.
Pubblicazione: (2025)
di: Li, Jeffrey, et al.
Pubblicazione: (2025)
QuantSpec: Self-Speculative Decoding with Hierarchical Quantized KV Cache
di: Tiwari, Rishabh, et al.
Pubblicazione: (2025)
di: Tiwari, Rishabh, et al.
Pubblicazione: (2025)
Transcranial Direct Current Stimulation and Mindfulness for Cognitive and Mood Recovery in Stroke Survivors: A Pilot Randomized Controlled Study
di: Atekeh Mosannaei Najibi, et al.
Pubblicazione: (2025)
di: Atekeh Mosannaei Najibi, et al.
Pubblicazione: (2025)
Seeds
Pubblicazione: (2023)
Pubblicazione: (2023)
The Instability of Safety: How Random Seeds and Temperature Expose Inconsistent LLM Refusal Behavior
di: Larsen, Erik
Pubblicazione: (2025)
di: Larsen, Erik
Pubblicazione: (2025)
Convergence of Random Products of Countably Infinitely Many Projections
di: Eskandari, Rasoul, et al.
Pubblicazione: (2024)
di: Eskandari, Rasoul, et al.
Pubblicazione: (2024)
Evaluating the Impact of Seed‐Borne Mycoflora on Seed Quality and Health of Various Oryza sativa Varieties
di: Mohammad Waris Haider, et al.
Pubblicazione: (2024)
di: Mohammad Waris Haider, et al.
Pubblicazione: (2024)
Rethinking Weight Tying: Pseudo-Inverse Tying for LM Stable Training and Updates
di: Gu, Jian, et al.
Pubblicazione: (2026)
di: Gu, Jian, et al.
Pubblicazione: (2026)
Random Quantum Circuits as Seeds for Continuous Generative Models
di: Hirviniemi, Olli, et al.
Pubblicazione: (2026)
di: Hirviniemi, Olli, et al.
Pubblicazione: (2026)
Seed Based Approach for Near Lossless to Lossless Image Compression
di: Tanuja R. Patil, et al.
Pubblicazione: (2021)
di: Tanuja R. Patil, et al.
Pubblicazione: (2021)
Growth of Light-Seed Black Holes in Gas-Rich Galaxies at High Redshift
di: Mehta, Daxal, et al.
Pubblicazione: (2024)
di: Mehta, Daxal, et al.
Pubblicazione: (2024)
Seed-Guided Topic Discovery with Out-of-Vocabulary Seeds
di: Zhang, Yu, et al.
Pubblicazione: (2022)
di: Zhang, Yu, et al.
Pubblicazione: (2022)
Nearly-Linear Time Seeded Extractors with Short Seeds
di: Doron, Dean, et al.
Pubblicazione: (2024)
di: Doron, Dean, et al.
Pubblicazione: (2024)
Annual Legume Seedbank Management Involves Compromises Between Feeding Value to Sheep and the Impact of Seed Mass and Dormancy on Survival of Ingested Seeds
di: Hayley C. Norman, et al.
Pubblicazione: (2026)
di: Hayley C. Norman, et al.
Pubblicazione: (2026)
Documenti analoghi
-
LazyLLM: Dynamic Token Pruning for Efficient Long Context LLM Inference
di: Fu, Qichen, et al.
Pubblicazione: (2024) -
CatLIP: CLIP-level Visual Recognition Accuracy with 2.7x Faster Pre-training on Web-scale Image-Text Data
di: Mehta, Sachin, et al.
Pubblicazione: (2024) -
Bytes Are All You Need: Transformers Operating Directly On File Bytes
di: Horton, Maxwell, et al.
Pubblicazione: (2023) -
LEAP: Learnable End-to-End Adaptive Pruning of Large Language Models
di: Mozaffari, Mohammad, et al.
Pubblicazione: (2026) -
Diffusion Models as Masked Audio-Video Learners
di: Nunez, Elvis, et al.
Pubblicazione: (2023)