Salvato in:
| Autori principali: | Zhou, Hangyu, Gokaslan, Aaron, Kuleshov, Volodymyr, Hariharan, Bharath |
|---|---|
| Natura: | Preprint |
| Pubblicazione: |
2025
|
| Soggetti: | |
| Accesso online: | https://arxiv.org/abs/2505.11204 |
| Tags: |
Aggiungi Tag
Nessun Tag, puoi essere il primo ad aggiungerne!!
|
Documenti analoghi
Encoder-Decoder Diffusion Language Models for Efficient Training and Inference
di: Arriola, Marianne, et al.
Pubblicazione: (2025)
di: Arriola, Marianne, et al.
Pubblicazione: (2025)
The Diffusion Duality
di: Sahoo, Subham Sekhar, et al.
Pubblicazione: (2025)
di: Sahoo, Subham Sekhar, et al.
Pubblicazione: (2025)
Block Diffusion: Interpolating Between Autoregressive and Diffusion Language Models
di: Arriola, Marianne, et al.
Pubblicazione: (2025)
di: Arriola, Marianne, et al.
Pubblicazione: (2025)
Simple and Effective Masked Diffusion Language Models
di: Sahoo, Subham Sekhar, et al.
Pubblicazione: (2024)
di: Sahoo, Subham Sekhar, et al.
Pubblicazione: (2024)
The GAN is dead; long live the GAN! A Modern GAN Baseline
di: Huang, Yiwen, et al.
Pubblicazione: (2025)
di: Huang, Yiwen, et al.
Pubblicazione: (2025)
Diffusion Models With Learned Adaptive Noise
di: Sahoo, Subham Sekhar, et al.
Pubblicazione: (2023)
di: Sahoo, Subham Sekhar, et al.
Pubblicazione: (2023)
Active Preference Inference using Language Models and Probabilistic Reasoning
di: Piriyakulkij, Wasu Top, et al.
Pubblicazione: (2023)
di: Piriyakulkij, Wasu Top, et al.
Pubblicazione: (2023)
Counter-Current Learning: A Biologically Plausible Dual Network Approach for Deep Learning
di: Kao, Chia-Hsiang, et al.
Pubblicazione: (2024)
di: Kao, Chia-Hsiang, et al.
Pubblicazione: (2024)
Caduceus: Bi-Directional Equivariant Long-Range DNA Sequence Modeling
di: Schiff, Yair, et al.
Pubblicazione: (2024)
di: Schiff, Yair, et al.
Pubblicazione: (2024)
ModuLoRA: Finetuning 2-Bit LLMs on Consumer GPUs by Integrating with Modular Quantizers
di: Yin, Junjie, et al.
Pubblicazione: (2023)
di: Yin, Junjie, et al.
Pubblicazione: (2023)
Superposition as Lossy Compression: Measure with Sparse Autoencoders and Connect to Adversarial Vulnerability
di: Bereska, Leonard, et al.
Pubblicazione: (2025)
di: Bereska, Leonard, et al.
Pubblicazione: (2025)
QuIP#: Even Better LLM Quantization with Hadamard Incoherence and Lattice Codebooks
di: Tseng, Albert, et al.
Pubblicazione: (2024)
di: Tseng, Albert, et al.
Pubblicazione: (2024)
Mathematical Models of Computation in Superposition
di: Hänni, Kaarel, et al.
Pubblicazione: (2024)
di: Hänni, Kaarel, et al.
Pubblicazione: (2024)
Parameter-Efficient Neural CDEs via Implicit Function Jacobians
di: Kuleshov, Ilya, et al.
Pubblicazione: (2025)
di: Kuleshov, Ilya, et al.
Pubblicazione: (2025)
DeNOTS: Stable Deep Neural ODEs for Time Series
di: Kuleshov, Ilya, et al.
Pubblicazione: (2024)
di: Kuleshov, Ilya, et al.
Pubblicazione: (2024)
DeltaLLM: Compress LLMs with Low-Rank Deltas between Shared Weights
di: Mikaelyan, Liana, et al.
Pubblicazione: (2025)
di: Mikaelyan, Liana, et al.
Pubblicazione: (2025)
Accurate Differential Operators for Hybrid Neural Fields
di: Chetan, Aditya, et al.
Pubblicazione: (2023)
di: Chetan, Aditya, et al.
Pubblicazione: (2023)
Towards Family-Grouped Hierarchical Federated Learning on Sub-5KB Models: A Feasibility Study of Privacy-Preserving ECG Monitoring for Ultra-Resource-Constrained Wearables
di: Wu, Hangyu
Pubblicazione: (2026)
di: Wu, Hangyu
Pubblicazione: (2026)
Superposition in Graph Neural Networks
di: Pertl, Lukas, et al.
Pubblicazione: (2025)
di: Pertl, Lukas, et al.
Pubblicazione: (2025)
Sparsity and Superposition in Mixture of Experts
di: Chaudhari, Marmik, et al.
Pubblicazione: (2025)
di: Chaudhari, Marmik, et al.
Pubblicazione: (2025)
On Implications of Scaling Laws on Feature Superposition
di: Katta, Pavan
Pubblicazione: (2024)
di: Katta, Pavan
Pubblicazione: (2024)
Neural Control Variates with Automatic Integration
di: Li, Zilu, et al.
Pubblicazione: (2024)
di: Li, Zilu, et al.
Pubblicazione: (2024)
SineLoRA$Δ$: Sine-Activated Delta Compression
di: Gordon, Cameron, et al.
Pubblicazione: (2025)
di: Gordon, Cameron, et al.
Pubblicazione: (2025)
The Geometry of Multi-Task Grokking: Transverse Instability, Superposition, and Weight Decay Phase Structure
di: Xu, Yongzhong
Pubblicazione: (2026)
di: Xu, Yongzhong
Pubblicazione: (2026)
DeltaDQ: Ultra-High Delta Compression for Fine-Tuned LLMs via Group-wise Dropout and Separate Quantization
di: Jiang, Yanfeng, et al.
Pubblicazione: (2024)
di: Jiang, Yanfeng, et al.
Pubblicazione: (2024)
DAQ: Delta-Aware Quantization for Post-Training LLM Weight Compression
di: Yu, Xiaoming, et al.
Pubblicazione: (2026)
di: Yu, Xiaoming, et al.
Pubblicazione: (2026)
Random Conditioning with Distillation for Data-Efficient Diffusion Model Compression
di: Kim, Dohyun, et al.
Pubblicazione: (2025)
di: Kim, Dohyun, et al.
Pubblicazione: (2025)
Comparative Evaluation of Applicability Domain Definition Methods for Regression Models
di: Khurshid, Shakir, et al.
Pubblicazione: (2024)
di: Khurshid, Shakir, et al.
Pubblicazione: (2024)
Understanding Emergent Misalignment via Feature Superposition Geometry
di: Minegishi, Gouki, et al.
Pubblicazione: (2026)
di: Minegishi, Gouki, et al.
Pubblicazione: (2026)
Emergence of Frontier Superposition: Möbius attractor and Cascade Supervision
di: Gu, Hongyu, et al.
Pubblicazione: (2026)
di: Gu, Hongyu, et al.
Pubblicazione: (2026)
Superposition Yields Robust Neural Scaling
di: Liu, Yizhou, et al.
Pubblicazione: (2025)
di: Liu, Yizhou, et al.
Pubblicazione: (2025)
Federated Two Stage Decoupling With Adaptive Personalization Layers
di: Zhu, Hangyu, et al.
Pubblicazione: (2023)
di: Zhu, Hangyu, et al.
Pubblicazione: (2023)
UA-PDFL: A Personalized Approach for Decentralized Federated Learning
di: Zhu, Hangyu, et al.
Pubblicazione: (2024)
di: Zhu, Hangyu, et al.
Pubblicazione: (2024)
FLoRIST: Singular Value Thresholding for Efficient and Accurate Federated Fine-Tuning of Large Language Models
di: Ramesh, Hariharan, et al.
Pubblicazione: (2025)
di: Ramesh, Hariharan, et al.
Pubblicazione: (2025)
Mercury: Ultra-Fast Language Models Based on Diffusion
di: Labs, Inception, et al.
Pubblicazione: (2025)
di: Labs, Inception, et al.
Pubblicazione: (2025)
D-QRELO: Training- and Data-Free Delta Compression for Large Language Models via Quantization and Residual Low-Rank Approximation
di: Li, Junlin, et al.
Pubblicazione: (2026)
di: Li, Junlin, et al.
Pubblicazione: (2026)
Spectral Superposition: A Theory of Feature Geometry
di: Ivanov, Georgi, et al.
Pubblicazione: (2026)
di: Ivanov, Georgi, et al.
Pubblicazione: (2026)
Breaking the Compression Ceiling: Data-Free Pipeline for Ultra-Efficient Delta Compression
di: Wang, Xiaohui, et al.
Pubblicazione: (2025)
di: Wang, Xiaohui, et al.
Pubblicazione: (2025)
Superposition Prompting: Improving and Accelerating Retrieval-Augmented Generation
di: Merth, Thomas, et al.
Pubblicazione: (2024)
di: Merth, Thomas, et al.
Pubblicazione: (2024)
Geometric Limits of Knowledge Distillation: A Minimum-Width Theorem via Superposition Theory
di: Sarkar, Nilesh, et al.
Pubblicazione: (2026)
di: Sarkar, Nilesh, et al.
Pubblicazione: (2026)
Documenti analoghi
-
Encoder-Decoder Diffusion Language Models for Efficient Training and Inference
di: Arriola, Marianne, et al.
Pubblicazione: (2025) -
The Diffusion Duality
di: Sahoo, Subham Sekhar, et al.
Pubblicazione: (2025) -
Block Diffusion: Interpolating Between Autoregressive and Diffusion Language Models
di: Arriola, Marianne, et al.
Pubblicazione: (2025) -
Simple and Effective Masked Diffusion Language Models
di: Sahoo, Subham Sekhar, et al.
Pubblicazione: (2024) -
The GAN is dead; long live the GAN! A Modern GAN Baseline
di: Huang, Yiwen, et al.
Pubblicazione: (2025)