Buchumschlag

Identifying a Circuit for Verb Conjugation in GPT-2

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
1. Verfasser:	Africa, David Demitri
Format:	Preprint
Veröffentlicht:	2025
Schlagworte:	Computation and Language Machine Learning
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

LURE: Live-Usage Replay Evaluations for Reducing Evaluation Awareness
von: Ivanov, Igor, et al.
Veröffentlicht: (2026)

Steering Awareness: Detecting Activation Steering from Within
von: Rivera, Joshua Fonseca, et al.
Veröffentlicht: (2025)

Automatically Identifying Local and Global Circuits with Linear Computation Graphs
von: Ge, Xuyang, et al.
Veröffentlicht: (2024)

Alignment-Constrained Dynamic Pruning for LLMs: Identifying and Preserving Alignment-Critical Circuits
von: Patel, Dev, et al.
Veröffentlicht: (2025)

A Scalable Pipeline for Estimating Verb Frame Frequencies Using Large Language Models
von: Morgan, Adam M., et al.
Veröffentlicht: (2025)

MiniGPT: Rebuilding GPT from First Principles
von: Joseph, Jibin
Veröffentlicht: (2026)

Evaluating GPT's Capability in Identifying Stages of Cognitive Impairment from Electronic Health Data
von: Leng, Yu, et al.
Veröffentlicht: (2025)

TransactionGPT
von: Dou, Yingtong, et al.
Veröffentlicht: (2025)

ZzzGPT: An Interactive GPT Approach to Enhance Sleep Quality
von: Khaokaew, Yonchanok, et al.
Veröffentlicht: (2023)

Consistency Training while Mitigating Obfuscation via Rate Matching
von: Imran, Sohaib, et al.
Veröffentlicht: (2026)

GPT Meets Graphs and KAN Splines: Testing Novel Frameworks on Multitask Fine-Tuned GPT-2 with LoRA
von: Bo, Gabriel, et al.
Veröffentlicht: (2025)

Krony-PT: GPT2 compressed with Kronecker Products
von: Ayad, Mohamed Ayoub Ben, et al.
Veröffentlicht: (2024)

Judge Circuits
von: Feldhus, Nils, et al.
Veröffentlicht: (2026)

Contextualize-then-Aggregate: Circuits for In-Context Learning in Gemma-2 2B
von: Bakalova, Aleksandra, et al.
Veröffentlicht: (2025)

You can remove GPT2's LayerNorm by fine-tuning
von: Heimersheim, Stefan
Veröffentlicht: (2024)

Single layer tiny Co$^4$ outpaces GPT-2 and GPT-BERT
von: Zain, Noor Ul, et al.
Veröffentlicht: (2025)

Alignment Pretraining: AI Discourse Causes Self-Fulfilling (Mis)alignment
von: Tice, Cameron, et al.
Veröffentlicht: (2026)

On Training Data Influence of GPT Models
von: Chai, Yekun, et al.
Veröffentlicht: (2024)

Learning Dynamics of Meta-Learning in Small Model Pretraining
von: Africa, David Demitri, et al.
Veröffentlicht: (2025)

Investigating ReLoRA: Effects on the Learning Dynamics of Small Language Models
von: Weiss, Yuval, et al.
Veröffentlicht: (2025)

Sharing Parameter by Conjugation for Knowledge Graph Embeddings in Complex Space
von: Feng, Xincan, et al.
Veröffentlicht: (2024)

ScaffoldGPT: A Scaffold-based GPT Model for Drug Optimization
von: Liu, Xuefeng, et al.
Veröffentlicht: (2025)

Using ChatGPT for Data Science Analyses
von: Evkaya, Ozan, et al.
Veröffentlicht: (2024)

On Mechanistic Circuits for Extractive Question-Answering
von: Basu, Samyadeep, et al.
Veröffentlicht: (2025)

HiGPT: Heterogeneous Graph Language Model
von: Tang, Jiabin, et al.
Veröffentlicht: (2024)

Counterfactual Generation with Identifiability Guarantees
von: Yan, Hanqi, et al.
Veröffentlicht: (2024)

Active Learning for Identifying Disaster-Related Tweets: A Comparison with Keyword Filtering and Generic Fine-Tuning
von: Hanny, David, et al.
Veröffentlicht: (2024)

Transcoders Find Interpretable LLM Feature Circuits
von: Dunefsky, Jacob, et al.
Veröffentlicht: (2024)

In-Context Learning and Fine-Tuning GPT for Argument Mining
von: Cabessa, Jérémie, et al.
Veröffentlicht: (2024)

On Sarcasm Detection with OpenAI GPT-based Models
von: Gole, Montgomery, et al.
Veröffentlicht: (2023)

Cross-Language Assessment of Mathematical Capability of ChatGPT
von: Sathe, Gargi, et al.
Veröffentlicht: (2024)

Testing the Depth of ChatGPT's Comprehension via Cross-Modal Tasks Based on ASCII-Art: GPT3.5's Abilities in Regard to Recognizing and Generating ASCII-Art Are Not Totally Lacking
von: Bayani, David
Veröffentlicht: (2023)

Universal Neurons in GPT2 Language Models
von: Gurnee, Wes, et al.
Veröffentlicht: (2024)

CSP-Atlas: Concept-Specific Neural Circuits in a Sparse Python Transformer
von: Wilam, Piotr
Veröffentlicht: (2026)

LLM Circuit Analyses Are Consistent Across Training and Scale
von: Tigges, Curt, et al.
Veröffentlicht: (2024)

Circuit Breaking: Removing Model Behaviors with Targeted Ablation
von: Li, Maximilian, et al.
Veröffentlicht: (2023)

ProcrustesGPT: Compressing LLMs with Structured Matrices and Orthogonal Transformations
von: Grishina, Ekaterina, et al.
Veröffentlicht: (2025)

Is Next Token Prediction Sufficient for GPT? Exploration on Code Logic Comprehension
von: Qi, Mengnan, et al.
Veröffentlicht: (2024)

ChatGPT for automated grading of short answer questions in mechanical ventilation
von: Jade, Tejas, et al.
Veröffentlicht: (2025)

Circuit Fingerprints: How Answer Tokens Encode Their Geometrical Path
von: Saurez, Andres, et al.
Veröffentlicht: (2026)