Injecting Wiktionary to improve token-level contextual representations using contrastive learning
Fuente:
arXiv
Salvato in:
| Autori principali: | Mosolova, Anna, Candito, Marie, Ramisch, Carlos |
|---|---|
| Natura: | Preprint |
| Pubblicazione: |
2024
|
| Soggetti: | |
| Accesso online: | |
| Tags: |
Aggiungi Tag
Nessun Tag, puoi essere il primo ad aggiungerne!!
|
Documenti analoghi
In the LLM era, Word Sense Induction remains unsolved
di: Mosolova, Anna, et al.
Pubblicazione: (2026)
di: Mosolova, Anna, et al.
Pubblicazione: (2026)
Auxiliary Tasks to Boost Biaffine Semantic Dependency Parsing
di: Candito, Marie
Pubblicazione: (2024)
di: Candito, Marie
Pubblicazione: (2024)
When Tables Go Crazy: Evaluating Multimodal Models on French Financial Documents
di: Mouilleron, Virginie, et al.
Pubblicazione: (2026)
di: Mouilleron, Virginie, et al.
Pubblicazione: (2026)
Probing structural constraints of negation in Pretrained Language Models
di: Kletz, David, et al.
Pubblicazione: (2024)
di: Kletz, David, et al.
Pubblicazione: (2024)
The Self-Contained Negation Test Set
di: Kletz, David, et al.
Pubblicazione: (2024)
di: Kletz, David, et al.
Pubblicazione: (2024)
Modeling the human lexicon under temperature variations: linguistic factors, diversity and typicality in LLM word associations
di: Rodriguez, Maria Andueza, et al.
Pubblicazione: (2026)
di: Rodriguez, Maria Andueza, et al.
Pubblicazione: (2026)
Mind the Gap: Assessing Wiktionary's Crowd-Sourced Linguistic Knowledge on Morphological Gaps in Two Related Languages
di: Sakunkoo, Jonathan, et al.
Pubblicazione: (2025)
di: Sakunkoo, Jonathan, et al.
Pubblicazione: (2025)
How much do contextualized representations encode long-range context?
di: Sun, Simeng, et al.
Pubblicazione: (2024)
di: Sun, Simeng, et al.
Pubblicazione: (2024)
Predicting positive transfer for improved low-resource speech recognition using acoustic pseudo-tokens
di: San, Nay, et al.
Pubblicazione: (2024)
di: San, Nay, et al.
Pubblicazione: (2024)
Jacobian Scopes: token-level causal attributions in LLMs
di: Liu, Toni J. B., et al.
Pubblicazione: (2026)
di: Liu, Toni J. B., et al.
Pubblicazione: (2026)
MEXMA: Token-level objectives improve sentence representations
di: Janeiro, João Maria, et al.
Pubblicazione: (2024)
di: Janeiro, João Maria, et al.
Pubblicazione: (2024)
Shaping capabilities with token-level data filtering
di: Rathi, Neil, et al.
Pubblicazione: (2026)
di: Rathi, Neil, et al.
Pubblicazione: (2026)
A Syntax-Injected Approach for Faster and More Accurate Sentiment Analysis
di: Imran, Muhammad, et al.
Pubblicazione: (2024)
di: Imran, Muhammad, et al.
Pubblicazione: (2024)
Can Editing LLMs Inject Harm?
di: Chen, Canyu, et al.
Pubblicazione: (2024)
di: Chen, Canyu, et al.
Pubblicazione: (2024)
Why do LLMs attend to the first token?
di: Barbero, Federico, et al.
Pubblicazione: (2025)
di: Barbero, Federico, et al.
Pubblicazione: (2025)
Where is the signal in tokenization space?
di: Geh, Renato Lui, et al.
Pubblicazione: (2024)
di: Geh, Renato Lui, et al.
Pubblicazione: (2024)
Unsupervised hard Negative Augmentation for contrastive learning
di: Shu, Yuxuan, et al.
Pubblicazione: (2024)
di: Shu, Yuxuan, et al.
Pubblicazione: (2024)
Extracting domain-specific terms using contextual word embeddings
di: Repar, Andraž, et al.
Pubblicazione: (2025)
di: Repar, Andraž, et al.
Pubblicazione: (2025)
Turbulence-like 5/3 spectral scaling in contextual representations of language as a complex system
di: Yang, Zhongxin, et al.
Pubblicazione: (2026)
di: Yang, Zhongxin, et al.
Pubblicazione: (2026)
Interpreting token compositionality in LLMs: A robustness analysis
di: Aljaafari, Nura, et al.
Pubblicazione: (2024)
di: Aljaafari, Nura, et al.
Pubblicazione: (2024)
Comparative analysis of subword tokenization approaches for Indian languages
di: Das, Sudhansu Bala, et al.
Pubblicazione: (2025)
di: Das, Sudhansu Bala, et al.
Pubblicazione: (2025)
Contextual morphologically-guided tokenization for Latin encoder models
di: Hudspeth, Marisa, et al.
Pubblicazione: (2025)
di: Hudspeth, Marisa, et al.
Pubblicazione: (2025)
AnomaLLMy -- Detecting anomalous tokens in black-box LLMs through low-confidence single-token predictions
di: Witold, Waligóra
Pubblicazione: (2024)
di: Witold, Waligóra
Pubblicazione: (2024)
CareMedEval dataset: Evaluating Critical Appraisal and Reasoning in the Biomedical Field
di: Bonzi, Doria, et al.
Pubblicazione: (2025)
di: Bonzi, Doria, et al.
Pubblicazione: (2025)
Unused information in token probability distribution of generative LLM: improving LLM reading comprehension through calculation of expected values
di: Zawistowski, Krystian
Pubblicazione: (2024)
di: Zawistowski, Krystian
Pubblicazione: (2024)
The pitfalls of next-token prediction
di: Bachmann, Gregor, et al.
Pubblicazione: (2024)
di: Bachmann, Gregor, et al.
Pubblicazione: (2024)
Looking beyond the next token
di: Thankaraj, Abitha, et al.
Pubblicazione: (2025)
di: Thankaraj, Abitha, et al.
Pubblicazione: (2025)
Same evaluation, more tokens: On the effect of input length for machine translation evaluation using Large Language Models
di: Domhan, Tobias, et al.
Pubblicazione: (2025)
di: Domhan, Tobias, et al.
Pubblicazione: (2025)
Indication Finding: a novel use case for representation learning
di: Eckhoff, Maren, et al.
Pubblicazione: (2024)
di: Eckhoff, Maren, et al.
Pubblicazione: (2024)
On multi-token prediction for efficient LLM inference
di: Mehra, Somesh, et al.
Pubblicazione: (2025)
di: Mehra, Somesh, et al.
Pubblicazione: (2025)
Learning representations of learning representations
di: González-Márquez, Rita, et al.
Pubblicazione: (2024)
di: González-Márquez, Rita, et al.
Pubblicazione: (2024)
Deepfake Word Detection by Next-token Prediction using Fine-tuned Whisper
di: Tran, Hoan My, et al.
Pubblicazione: (2026)
di: Tran, Hoan My, et al.
Pubblicazione: (2026)
Towards Codable Watermarking for Injecting Multi-bits Information to LLMs
di: Wang, Lean, et al.
Pubblicazione: (2023)
di: Wang, Lean, et al.
Pubblicazione: (2023)
Soft Head Selection for Injecting ICL-Derived Task Embeddings
di: Park, Jungwon, et al.
Pubblicazione: (2025)
di: Park, Jungwon, et al.
Pubblicazione: (2025)
Better & Faster Large Language Models via Multi-token Prediction
di: Gloeckle, Fabian, et al.
Pubblicazione: (2024)
di: Gloeckle, Fabian, et al.
Pubblicazione: (2024)
Collaborative decoding of critical tokens for boosting factuality of large language models
di: Jin, Lifeng, et al.
Pubblicazione: (2024)
di: Jin, Lifeng, et al.
Pubblicazione: (2024)
LBPE: Long-token-first Tokenization to Improve Large Language Models
di: Lian, Haoran, et al.
Pubblicazione: (2024)
di: Lian, Haoran, et al.
Pubblicazione: (2024)
Getting the most out of your tokenizer for pre-training and domain adaptation
di: Dagan, Gautier, et al.
Pubblicazione: (2024)
di: Dagan, Gautier, et al.
Pubblicazione: (2024)
Finetuning LLMs for EvaCun 2025 token prediction shared task
di: Jon, Josef, et al.
Pubblicazione: (2025)
di: Jon, Josef, et al.
Pubblicazione: (2025)
Exploiting contextual information to improve stance detection in informal political discourse with LLMs
di: Sucu, Arman Engin, et al.
Pubblicazione: (2026)
di: Sucu, Arman Engin, et al.
Pubblicazione: (2026)
Documenti analoghi
-
In the LLM era, Word Sense Induction remains unsolved
di: Mosolova, Anna, et al.
Pubblicazione: (2026) -
Auxiliary Tasks to Boost Biaffine Semantic Dependency Parsing
di: Candito, Marie
Pubblicazione: (2024) -
When Tables Go Crazy: Evaluating Multimodal Models on French Financial Documents
di: Mouilleron, Virginie, et al.
Pubblicazione: (2026) -
Probing structural constraints of negation in Pretrained Language Models
di: Kletz, David, et al.
Pubblicazione: (2024) -
The Self-Contained Negation Test Set
di: Kletz, David, et al.
Pubblicazione: (2024)