Buchumschlag

Engineering Verifiable Modularity in Transformers via Per-Layer Supervision

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
1. Verfasser:	Kerce, J. Clayton
Format:	Preprint
Veröffentlicht:	2026
Schlagworte:	Machine Learning Artificial Intelligence
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Interpretable-by-Design Transformers via Architectural Stream Independence
von: Kerce, Clayton, et al.
Veröffentlicht: (2026)

The Dual-Stream Transformer: Channelized Architecture for Interpretable Language Modeling
von: Kerce, J. Clayton, et al.
Veröffentlicht: (2026)

GLIDR: Graph-Like Inductive Logic Programming with Differentiable Reasoning
von: Johnson, Blair, et al.
Veröffentlicht: (2025)

Stream separation improves Bregman conditioning in transformers
von: Kerce, James Clayton
Veröffentlicht: (2026)

KLAS: Using Similarity to Stitch Neural Networks for Improved Accuracy-Efficiency Tradeoffs
von: Sanyal, Debopam, et al.
Veröffentlicht: (2026)

EngTrace: A Symbolic Benchmark for Verifiable Process Supervision of Engineering Reasoning
von: Gull, Ayesha, et al.
Veröffentlicht: (2025)

Modular Jets for Supervised Pipelines: Diagnosing Mirage vs Identifiability
von: Sanyal, Suman
Veröffentlicht: (2025)

Understanding Transformer Reasoning Capabilities via Graph Algorithms
von: Sanford, Clayton, et al.
Veröffentlicht: (2024)

Search, Verify and Feedback: Towards Next Generation Post-training Paradigm of Foundation Models via Verifier Engineering
von: Guan, Xinyan, et al.
Veröffentlicht: (2024)

On the Ability of Transformers to Verify Plans
von: Sarrof, Yash, et al.
Veröffentlicht: (2026)

Logic Synthesis Optimization with Predictive Self-Supervision via Causal Transformers
von: Karimi, Raika, et al.
Veröffentlicht: (2024)

GoldenTransformer: A Modular Fault Injection Framework for Transformer Robustness Research
von: Howard, Luke
Veröffentlicht: (2025)

GRPO-VPS: Enhancing Group Relative Policy Optimization with Verifiable Process Supervision for Effective Reasoning
von: Wang, Jingyi, et al.
Veröffentlicht: (2026)

Multi-Layer Attention-Based Explainability via Transformers for Tabular Data
von: Gavito, Andrea Treviño, et al.
Veröffentlicht: (2023)

A Layer-wise Analysis of Supervised Fine-Tuning
von: Zhao, Qinghua, et al.
Veröffentlicht: (2026)

Escaping the Verifier: Learning to Reason via Demonstrations
von: Cai, Locke, et al.
Veröffentlicht: (2025)

Do We Need to Verify Step by Step? Rethinking Process Supervision from a Theoretical Perspective
von: Jia, Zeyu, et al.
Veröffentlicht: (2025)

Time Series Forecasting via Direct Per-Step Probability Distribution Modeling
von: Kong, Linghao, et al.
Veröffentlicht: (2025)

Learning Modular Exponentiation with Transformers
von: Africa, David Demitri, et al.
Veröffentlicht: (2025)

CALM: A CKA-Guided Adaptive Layer-Wise Modularization Framework for LLM Quantization
von: Zhang, Jinhao, et al.
Veröffentlicht: (2025)

Temporal Inductive Logic Reasoning over Hypergraphs
von: Yang, Yuan, et al.
Veröffentlicht: (2022)

Brep2Shape: Boundary and Shape Representation Alignment via Self-Supervised Transformers
von: Sun, Yuanxu, et al.
Veröffentlicht: (2026)

Neural Organ Transplantation (NOT): Checkpoint-Based Modular Adaptation for Transformer Models
von: Al-Zuraiqi, Ahmad
Veröffentlicht: (2026)

AttentionSmithy: A Modular Framework for Rapid Transformer Development and Customization
von: Cranney, Caleb, et al.
Veröffentlicht: (2025)

Masked-and-Reordered Self-Supervision for Reinforcement Learning from Verifiable Rewards
von: Wang, Zhen, et al.
Veröffentlicht: (2025)

Per-Domain Generalizing Policies: On Validation Instances and Scaling Behavior
von: Gros, Timo P., et al.
Veröffentlicht: (2025)

Verifying Meta-Awareness via Predictive Rewards in Reasoning Models
von: Kim, Yoonjeon, et al.
Veröffentlicht: (2025)

Towards Empirical Interpretation of Internal Circuits and Properties in Grokked Transformers on Modular Polynomials
von: Furuta, Hiroki, et al.
Veröffentlicht: (2024)

Transformer Normalisation Layers and the Independence of Semantic Subspaces
von: Menary, Stephen, et al.
Veröffentlicht: (2024)

Dynamic Layer Tying for Parameter-Efficient Transformers
von: Hay, Tamir David, et al.
Veröffentlicht: (2024)

Layer Specialization Underlying Compositional Reasoning in Transformers
von: Liu, Jing
Veröffentlicht: (2025)

Reinforcement Learning with Verifiable yet Noisy Rewards under Imperfect Verifiers
von: Cai, Xin-Qiang, et al.
Veröffentlicht: (2025)

Verifier-Free RL for LLMs via Intrinsic Gradient-Norm Reward
von: Wen, Xuexiang, et al.
Veröffentlicht: (2026)

Deep Learning with Pretrained 'Internal World' Layers: A Gemma 3-Based Modular Architecture for Wildfire Prediction
von: Jadouli, Ayoub, et al.
Veröffentlicht: (2025)

WARP: Guaranteed Inner-Layer Repair of NLP Transformers
von: Hsu, Hsin-Ling, et al.
Veröffentlicht: (2026)

Universal Approximation Theorem for a Single-Layer Transformer
von: Gumaan, Esmail
Veröffentlicht: (2025)

Time Series Representation Learning with Supervised Contrastive Temporal Transformer
von: Liu, Yuansan, et al.
Veröffentlicht: (2024)

PerPO: Perceptual Preference Optimization via Discriminative Rewarding
von: Zhu, Zining, et al.
Veröffentlicht: (2025)

Skill Weaving: Efficient LLM Improvement via Modular Skillpacks
von: Li, Zhuo, et al.
Veröffentlicht: (2026)

Verifying the Verifiers: Unveiling Pitfalls and Potentials in Fact Verifiers
von: Seo, Wooseok, et al.
Veröffentlicht: (2025)