Buchumschlag

Predicting Probabilities of Error to Combine Quantization and Early Exiting: QuEE

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Regol, Florence, Chataoui, Joud, Charpentier, Bertrand, Coates, Mark, Piantanida, Pablo, Gunnemann, Stephan
Format:	Preprint
Veröffentlicht:	2024
Schlagworte:	Machine Learning
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Jointly-Learned Exit and Inference for a Dynamic Neural Network : JEI-DNN
von: Regol, Florence, et al.
Veröffentlicht: (2023)

Dynamic layer selection in decoder-only transformers
von: Glavas, Theodore, et al.
Veröffentlicht: (2024)

Interacting Diffusion Processes for Event Sequence Forecasting
von: Zeng, Mai, et al.
Veröffentlicht: (2023)

When to retrain a machine learning model
von: Florence, Regol, et al.
Veröffentlicht: (2025)

Predictive Feature Caching for Training-free Acceleration of Molecular Geometry Generation
von: Sommer, Johanna, et al.
Veröffentlicht: (2025)

Beyond the Norms: Detecting Prediction Errors in Regression Models
von: Altieri, Andres, et al.
Veröffentlicht: (2024)

Structurally Prune Anything: Any Architecture, Any Framework, Any Time
von: Wang, Xun, et al.
Veröffentlicht: (2024)

Uncertainty for Active Learning on Graphs
von: Fuchsgruber, Dominik, et al.
Veröffentlicht: (2024)

Combine and Conquer: A Meta-Analysis on Data Shift and Out-of-Distribution Detection
von: Dadalto, Eduardo, et al.
Veröffentlicht: (2024)

Provably Reliable Conformal Prediction Sets in the Presence of Data Poisoning
von: Scholten, Yan, et al.
Veröffentlicht: (2024)

ConsistentEE: A Consistent and Hardness-Guided Early Exiting Method for Accelerating Language Models Inference
von: Zeng, Ziqian, et al.
Veröffentlicht: (2023)

Membership Inference Risks in Quantized Models: A Theoretical and Empirical Study
von: Aubinais, Eric, et al.
Veröffentlicht: (2025)

Shaving Weights with Occam's Razor: Bayesian Sparsification for Neural Networks Using the Marginal Likelihood
von: Dhahri, Rayen, et al.
Veröffentlicht: (2024)

Early Exiting Predictive Coding Neural Networks for Edge AI
von: Zniber, Alaa, et al.
Veröffentlicht: (2023)

Improving Prediction Certainty Estimation for Reliable Early Exiting via Null Space Projection
von: He, Jianing, et al.
Veröffentlicht: (2025)

QuRL: Efficient Reinforcement Learning with Quantized Rollout
von: Li, Yuhang, et al.
Veröffentlicht: (2026)

Happiness as a Measure of Fairness
von: Pichler, Georg, et al.
Veröffentlicht: (2025)

Adversarial Attacks on Graph Neural Networks via Meta Learning
von: Zügner, Daniel, et al.
Veröffentlicht: (2019)

Kangaroo: Lossless Self-Speculative Decoding via Double Early Exiting
von: Liu, Fangcheng, et al.
Veröffentlicht: (2024)

Controlling the Risk of Corrupted Contexts for Language Models via Early-Exiting
von: Wynn, Andrea, et al.
Veröffentlicht: (2025)

Sustainable Edge Intelligence Through Energy-Aware Early Exiting
von: Bullo, Marcello, et al.
Veröffentlicht: (2023)

Fast yet Safe: Early-Exiting with Risk Control
von: Jazbec, Metod, et al.
Veröffentlicht: (2024)

Energy-based Epistemic Uncertainty for Graph Neural Networks
von: Fuchsgruber, Dominik, et al.
Veröffentlicht: (2024)

Interpolating Discrete Diffusion Models with Controllable Resampling
von: Kollovieh, Marcel, et al.
Veröffentlicht: (2026)

Task-Awareness Improves LLM Generations and Uncertainty
von: Tomov, Tim, et al.
Veröffentlicht: (2026)

UnHiPPO: Uncertainty-aware Initialization for State Space Models
von: Lienen, Marten, et al.
Veröffentlicht: (2025)

What Expressivity Theory Misses: Message Passing Complexity for GNNs
von: Kemper, Niklas, et al.
Veröffentlicht: (2025)

Generative Modeling with Bayesian Sample Inference
von: Lienen, Marten, et al.
Veröffentlicht: (2025)

Fundamental Limits of Membership Inference Attacks on Machine Learning Models
von: Aubinais, Eric, et al.
Veröffentlicht: (2023)

Split Computing and Early Exiting for Deep Learning Applications: Survey and Research Challenges
von: Matsubara, Yoshitomo, et al.
Veröffentlicht: (2021)

Balancing Stability and Plasticity in Sequentially Trained Early-Exiting Neural Networks
von: Zniber, Alaa, et al.
Veröffentlicht: (2026)

DE$^3$-BERT: Distance-Enhanced Early Exiting for BERT based on Prototypical Networks
von: He, Jianing, et al.
Veröffentlicht: (2024)

Performance Control in Early Exiting to Deploy Large Models at the Same Cost of Smaller Ones
von: Mofakhami, Mehrnaz, et al.
Veröffentlicht: (2024)

On Representing Electronic Wave Functions with Sign Equivariant Neural Networks
von: Gao, Nicholas, et al.
Veröffentlicht: (2024)

Neural Pfaffians: Solving Many Many-Electron Schrödinger Equations
von: Gao, Nicholas, et al.
Veröffentlicht: (2024)

QuATON: Quantization Aware Training of Optical Neurons
von: Kariyawasam, Hasindu, et al.
Veröffentlicht: (2023)

Variation Matters: from Mitigating to Embracing Zero-Shot NAS Ranking Function Variation
von: Rumiantsev, Pavel, et al.
Veröffentlicht: (2025)

Half Search Space is All You Need
von: Rumiantsev, Pavel, et al.
Veröffentlicht: (2025)

Optimal Zero-Shot Detector for Multi-Armed Attacks
von: Granese, Federica, et al.
Veröffentlicht: (2024)

Dynamic nsNet2: Efficient Deep Noise Suppression with Early Exiting
von: Miccini, Riccardo, et al.
Veröffentlicht: (2023)