Buchumschlag

Same Geometry, Opposite Noise: Transformer Magnitude Representations Lack Scalar Variability

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
1. Verfasser:	Cacioli, Jon-Paul
Format:	Preprint
Veröffentlicht:	2026
Schlagworte:	Computation and Language Quantitative Methods
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Weber's Law in Transformer Magnitude Representations: Efficient Coding, Representational Geometry, and Psychophysical Laws in Language Models
von: Cacioli, Jon-Paul
Veröffentlicht: (2026)

Geometric Stability: The Missing Axis of Representations
von: Raju, Prashant C.
Veröffentlicht: (2026)

Enhancing TCR-Peptide Interaction Prediction with Pretrained Language Models and Molecular Representations
von: Qi, Cong, et al.
Veröffentlicht: (2025)

Rep3Net: An Approach Exploiting Multimodal Representation for Molecular Bioactivity Prediction
von: Islam, Sabrina, et al.
Veröffentlicht: (2025)

AFD-INSTRUCTION: A Comprehensive Antibody Instruction Dataset with Functional Annotations for LLM-Based Understanding and Design
von: Luo, Ling, et al.
Veröffentlicht: (2026)

An Evolutionary Approach for Designing Stable and Highly Expressible Low-Immunogenicity Therapeutic mRNA Sequences
von: Dong, Dhawa Sang, et al.
Veröffentlicht: (2026)

Development of a European Union Time-Indexed Reference Dataset for Assessing the Performance of Signal Detection Methods in Pharmacovigilance using a Large Language Model
von: Kefala, Maria, et al.
Veröffentlicht: (2026)

Protein Structure-Function Relationship: A Kernel-PCA Approach for Reaction Coordinate Identification
von: Mollaei, Parisa, et al.
Veröffentlicht: (2025)

Enhancing Clinical Note Generation with ICD-10, Clinical Ontology Knowledge Graphs, and Chain-of-Thought Prompting Using GPT-4
von: Makohon, Ivan, et al.
Veröffentlicht: (2025)

Linguistic Laws Meet Protein Sequences: A Comparative Analysis of Subword Tokenization Methods
von: Suyunu, Burak, et al.
Veröffentlicht: (2024)

Natural Language Processing Methods for the Study of Protein-Ligand Interactions
von: Michels, James, et al.
Veröffentlicht: (2024)

ModernBERT + ColBERT: Enhancing biomedical RAG through an advanced re-ranking retriever
von: Rivera, Eduardo Martínez, et al.
Veröffentlicht: (2025)

Advancing bioinformatics with large language models: components, applications and perspectives
von: Liu, Jiajia, et al.
Veröffentlicht: (2024)

Enhancing Thyroid Cytology Diagnosis with RAG-Optimized LLMs and Pa-thology Foundation Models
von: Al-Asi, Hussien, et al.
Veröffentlicht: (2025)

PubTator 3.0: an AI-powered Literature Resource for Unlocking Biomedical Knowledge
von: Wei, Chih-Hsuan, et al.
Veröffentlicht: (2024)

PUMA: Discovery of Protein Units via Mutation-Aware Merging
von: Suyunu, Burak, et al.
Veröffentlicht: (2025)

RACER: An LLM-powered Methodology for Scalable Analysis of Semi-structured Mental Health Interviews
von: Singh, Satpreet Harcharan, et al.
Veröffentlicht: (2024)

Prot2Text: Multimodal Protein's Function Generation with GNNs and Transformers
von: Abdine, Hadi, et al.
Veröffentlicht: (2023)

Transformers for molecular property prediction: Lessons learned from the past five years
von: Sultan, Afnan, et al.
Veröffentlicht: (2024)

CPE-Pro: A Structure-Sensitive Deep Learning Method for Protein Representation and Origin Evaluation
von: Gou, Wenrui, et al.
Veröffentlicht: (2024)

ProtT3: Protein-to-Text Generation for Text-based Protein Understanding
von: Liu, Zhiyuan, et al.
Veröffentlicht: (2024)

ReactXT: Understanding Molecular "Reaction-ship" via Reaction-Contextualized Molecule-Text Pretraining
von: Liu, Zhiyuan, et al.
Veröffentlicht: (2024)

SFM-Protein: Integrative Co-evolutionary Pre-training for Advanced Protein Sequence Representation
von: He, Liang, et al.
Veröffentlicht: (2024)

Quantisation Reshapes the Metacognitive Geometry of Language Models
von: Cacioli, Jon-Paul
Veröffentlicht: (2026)

Few-Shot Large Language Models for Actionable Triage Categorization of Online Patient Inquiries
von: Zhou, Liqi, et al.
Veröffentlicht: (2026)

Impact of automatic speech recognition quality on Alzheimer's disease detection from spontaneous speech: a reproducible benchmark study with lexical modeling and statistical validation
von: Samanta, Himadri S
Veröffentlicht: (2026)

Unlocking LLM Creativity in Science through Analogical Reasoning
von: Shen, Andrew, et al.
Veröffentlicht: (2026)

Rank-and-Reason: Multi-Agent Collaboration Accelerates Zero-Shot Protein Mutation Prediction
von: Tan, Yang, et al.
Veröffentlicht: (2026)

Tabular LLMs for Interpretable Few-Shot Alzheimer's Disease Prediction with Multimodal Biomedical Data
von: Kearney, Sophie, et al.
Veröffentlicht: (2026)

Self-evolving AI agents for protein discovery and directed evolution
von: Tan, Yang, et al.
Veröffentlicht: (2026)

HIGHT: Hierarchical Graph Tokenization for Molecule-Language Alignment
von: Chen, Yongqiang, et al.
Veröffentlicht: (2024)

Enabling Few-Shot Alzheimer's Disease Diagnosis on Biomarker Data with Tabular LLMs
von: Kearney, Sophie, et al.
Veröffentlicht: (2025)

Knowledge-Driven Agentic Scientific Corpus Distillation Framework for Biomedical Large Language Models Training
von: Xiao, Meng, et al.
Veröffentlicht: (2025)

An LLM-based Knowledge Synthesis and Scientific Reasoning Framework for Biomedical Discovery
von: Wysocki, Oskar, et al.
Veröffentlicht: (2024)

Retrieval-Enhanced Mutation Mastery: Augmenting Zero-Shot Prediction of Protein Language Model
von: Tan, Yang, et al.
Veröffentlicht: (2024)

Can LLMs Support Medical Knowledge Imputation? An Evaluation-Based Perspective
von: Yao, Xinyu, et al.
Veröffentlicht: (2025)

Integrating Single-Cell Foundation Models with Graph Neural Networks for Drug Response Prediction
von: Rossner, Till, et al.
Veröffentlicht: (2025)

A Novel Recurrent Neural Network Framework for Prediction and Treatment of Oncogenic Mutation Progression
von: Parthasarathy, Rishab, et al.
Veröffentlicht: (2025)

Exploring the Generalization of Cancer Clinical Trial Eligibility Classifiers Across Diseases
von: Yang, Yumeng, et al.
Veröffentlicht: (2024)

MolReFlect: Towards In-Context Fine-grained Alignments between Molecules and Texts
von: Li, Jiatong, et al.
Veröffentlicht: (2024)