KS-Lottery: Finding Certified Lottery Tickets for Multilingual Language Models
Fuente:
arXiv
Enregistré dans:
| Auteurs principaux: | Yuan, Fei, Ma, Chang, Yuan, Shuai, Sun, Qiushi, Li, Lei |
|---|---|
| Format: | Preprint |
| Publié: |
2024
|
| Sujets: | |
| Accès en ligne: | |
| Tags: |
Ajouter un tag
Pas de tags, Soyez le premier à ajouter un tag!
|
Documents similaires
On the Sparsity of the Strong Lottery Ticket Hypothesis
par: Natale, Emanuele, et autres
Publié: (2024)
par: Natale, Emanuele, et autres
Publié: (2024)
Lottery Ticket Adaptation: Mitigating Destructive Interference in LLMs
par: Panda, Ashwinee, et autres
Publié: (2024)
par: Panda, Ashwinee, et autres
Publié: (2024)
Grokking as Structural Inference: Transformers Need Bayesian Lottery Tickets
par: Hidajat, Kai, et autres
Publié: (2026)
par: Hidajat, Kai, et autres
Publié: (2026)
The Strong Lottery Ticket Hypothesis for Multi-Head Attention Mechanisms
par: Otsuka, Hikari, et autres
Publié: (2025)
par: Otsuka, Hikari, et autres
Publié: (2025)
Investigating the Lottery Ticket Hypothesis for Variational Quantum Circuits
par: Kölle, Michael, et autres
Publié: (2025)
par: Kölle, Michael, et autres
Publié: (2025)
LOTUS: Improving Transformer Efficiency with Sparsity Pruning and Data Lottery Tickets
par: Upadhyay, Ojasw
Publié: (2024)
par: Upadhyay, Ojasw
Publié: (2024)
Partially Frozen Random Networks Contain Compact Strong Lottery Tickets
par: Otsuka, Hikari, et autres
Publié: (2024)
par: Otsuka, Hikari, et autres
Publié: (2024)
Uncovering a Winning Lottery Ticket with Continuously Relaxed Bernoulli Gates
par: Tsayag, Itamar, et autres
Publié: (2026)
par: Tsayag, Itamar, et autres
Publié: (2026)
Winning the Lottery by Preserving Network Training Dynamics with Concrete Ticket Search
par: Arora, Tanay, et autres
Publié: (2025)
par: Arora, Tanay, et autres
Publié: (2025)
The Lottery LLM Hypothesis, Rethinking What Abilities Should LLM Compression Preserve?
par: Tang, Zhenheng, et autres
Publié: (2025)
par: Tang, Zhenheng, et autres
Publié: (2025)
A Neural Scaling Law from Lottery Ticket Ensembling
par: Liu, Ziming, et autres
Publié: (2023)
par: Liu, Ziming, et autres
Publié: (2023)
Bayesian Lottery Ticket Hypothesis
par: Kuhn, Nicholas, et autres
Publié: (2026)
par: Kuhn, Nicholas, et autres
Publié: (2026)
Early Transformers: A study on Efficient Training of Transformer Models through Early-Bird Lottery Tickets
par: Cheekati, Shravan
Publié: (2024)
par: Cheekati, Shravan
Publié: (2024)
A Survey of Lottery Ticket Hypothesis
par: Liu, Bohan, et autres
Publié: (2024)
par: Liu, Bohan, et autres
Publié: (2024)
Random Masking Finds Winning Tickets for Parameter Efficient Fine-tuning
par: Xu, Jing, et autres
Publié: (2024)
par: Xu, Jing, et autres
Publié: (2024)
Finding Lottery Tickets in Vision Models via Data-driven Spectral Foresight Pruning
par: Iurada, Leonardo, et autres
Publié: (2024)
par: Iurada, Leonardo, et autres
Publié: (2024)
Find A Winning Sign: Sign Is All We Need to Win the Lottery
par: Oh, Junghun, et autres
Publié: (2025)
par: Oh, Junghun, et autres
Publié: (2025)
Routing the Lottery: Adaptive Subnetworks for Heterogeneous Data
par: Stefanski, Grzegorz, et autres
Publié: (2026)
par: Stefanski, Grzegorz, et autres
Publié: (2026)
Escaping the Mode Lottery: Multi-Response Training Improves Language Model Generalization
par: Amin, Hasan, et autres
Publié: (2026)
par: Amin, Hasan, et autres
Publié: (2026)
How Vocabulary Sharing Facilitates Multilingualism in LLaMA?
par: Yuan, Fei, et autres
Publié: (2023)
par: Yuan, Fei, et autres
Publié: (2023)
Jackpot! Alignment as a Maximal Lottery
par: Maura-Rivero, Roberto-Rafael, et autres
Publié: (2025)
par: Maura-Rivero, Roberto-Rafael, et autres
Publié: (2025)
Learning Unanimously Acceptable Lotteries via Queries
par: Choo, Davin, et autres
Publié: (2026)
par: Choo, Davin, et autres
Publié: (2026)
Towards Scalable Lottery Ticket Networks using Genetic Algorithms
par: Schönberger, Julian, et autres
Publié: (2025)
par: Schönberger, Julian, et autres
Publié: (2025)
Feature Lottery? A Bifurcation Theory of Concept Emergence
par: Yang, Fuming
Publié: (2026)
par: Yang, Fuming
Publié: (2026)
Nemesis: Normalizing the Soft-prompt Vectors of Vision-Language Models
par: Fu, Shuai, et autres
Publié: (2024)
par: Fu, Shuai, et autres
Publié: (2024)
Uncovering Critical Features for Deepfake Detection through the Lottery Ticket Hypothesis
par: Amin, Lisan Al, et autres
Publié: (2025)
par: Amin, Lisan Al, et autres
Publié: (2025)
Playing the Lottery With Concave Regularizers for Sparse Trainable Neural Networks
par: Fracastoro, Giulia, et autres
Publié: (2025)
par: Fracastoro, Giulia, et autres
Publié: (2025)
Language Models as Hierarchy Encoders
par: He, Yuan, et autres
Publié: (2024)
par: He, Yuan, et autres
Publié: (2024)
Exploring Multilingual Probing in Large Language Models: A Cross-Language Analysis
par: Li, Daoyang, et autres
Publié: (2024)
par: Li, Daoyang, et autres
Publié: (2024)
Insights into the Lottery Ticket Hypothesis and Iterative Magnitude Pruning
par: Saleem, Tausifa Jan, et autres
Publié: (2024)
par: Saleem, Tausifa Jan, et autres
Publié: (2024)
SuperTickets: Drawing Task-Agnostic Lottery Tickets from Supernets via Jointly Architecture Searching and Parameter Pruning
par: You, Haoran, et autres
Publié: (2022)
par: You, Haoran, et autres
Publié: (2022)
How Abilities in Large Language Models are Affected by Supervised Fine-tuning Data Composition
par: Dong, Guanting, et autres
Publié: (2023)
par: Dong, Guanting, et autres
Publié: (2023)
Revisiting Multilingual Data Mixtures in Language Model Pretraining
par: Foroutan, Negar, et autres
Publié: (2025)
par: Foroutan, Negar, et autres
Publié: (2025)
The Open-World Lottery Ticket Hypothesis for OOD Intent Classification
par: Zhou, Yunhua, et autres
Publié: (2022)
par: Zhou, Yunhua, et autres
Publié: (2022)
Finding the Cracks: Improving LLMs Reasoning with Paraphrastic Probing and Consistency Verification
par: Shi, Weili, et autres
Publié: (2026)
par: Shi, Weili, et autres
Publié: (2026)
Language over Content: Tracing Cultural Understanding in Multilingual Large Language Models
par: Cho, Seungho, et autres
Publié: (2025)
par: Cho, Seungho, et autres
Publié: (2025)
LOLA -- An Open-Source Massively Multilingual Large Language Model
par: Srivastava, Nikit, et autres
Publié: (2024)
par: Srivastava, Nikit, et autres
Publié: (2024)
Evaluating the Limits of Large Language Models in Multilingual Legal Reasoning
par: Ioannou, Antreas, et autres
Publié: (2025)
par: Ioannou, Antreas, et autres
Publié: (2025)
Multilinguality of Large Language Models From a Structural Perspective
par: Sakajo, Haruki, et autres
Publié: (2026)
par: Sakajo, Haruki, et autres
Publié: (2026)
Finding Culture-Sensitive Neurons in Vision-Language Models
par: Zhao, Xiutian, et autres
Publié: (2025)
par: Zhao, Xiutian, et autres
Publié: (2025)
Documents similaires
-
On the Sparsity of the Strong Lottery Ticket Hypothesis
par: Natale, Emanuele, et autres
Publié: (2024) -
Lottery Ticket Adaptation: Mitigating Destructive Interference in LLMs
par: Panda, Ashwinee, et autres
Publié: (2024) -
Grokking as Structural Inference: Transformers Need Bayesian Lottery Tickets
par: Hidajat, Kai, et autres
Publié: (2026) -
The Strong Lottery Ticket Hypothesis for Multi-Head Attention Mechanisms
par: Otsuka, Hikari, et autres
Publié: (2025) -
Investigating the Lottery Ticket Hypothesis for Variational Quantum Circuits
par: Kölle, Michael, et autres
Publié: (2025)