Buchumschlag

go-$m$HC: Direct Parameterization of Manifold-Constrained Hyper-Connections via Generalized Orthostochastic Matrices

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Dandachi, Torque, Diggs-Galligan, Sophia
Format:	Preprint
Veröffentlicht:	2026
Schlagworte:	Machine Learning Computation and Language
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

mHC: Manifold-Constrained Hyper-Connections
von: Xie, Zhenda, et al.
Veröffentlicht: (2025)

KromHC: Manifold-Constrained Hyper-Connections with Kronecker-Product Residual Matrices
von: Zhou, Wuyang, et al.
Veröffentlicht: (2026)

mHC-GNN: Manifold-Constrained Hyper-Connections for Graph Neural Networks
von: Mishra, Subhankar
Veröffentlicht: (2026)

mHC-SSM: Manifold-Constrained Hyper-Connections for State Space Language Models with Stream-Specialized Adapters
von: Mutlu, Abdulvahap, et al.
Veröffentlicht: (2026)

Frac-Connections: Fractional Extension of Hyper-Connections
von: Zhu, Defa, et al.
Veröffentlicht: (2025)

Hyper-Connections
von: Zhu, Defa, et al.
Veröffentlicht: (2024)

JPmHC Dynamical Isometry via Orthogonal Hyper-Connections
von: Sengupta, Biswa, et al.
Veröffentlicht: (2026)

How do Large Language Models Learn In-Context? Query and Key Matrices of In-Context Heads are Two Towers for Metric Learning
von: Yu, Zeping, et al.
Veröffentlicht: (2024)

Enhancing LLM Safety via Constrained Direct Preference Optimization
von: Liu, Zixuan, et al.
Veröffentlicht: (2024)

Controllable Generation via Locally Constrained Resampling
von: Ahmed, Kareem, et al.
Veröffentlicht: (2024)

HyperEdit: Unlocking Instruction-based Text Editing in LLMs via Hypernetworks
von: Zeng, Yiming, et al.
Veröffentlicht: (2025)

Inference-Time Hyper-Scaling with KV Cache Compression
von: Łańcucki, Adrian, et al.
Veröffentlicht: (2025)

An Analysis of Hyper-Parameter Optimization Methods for Retrieval Augmented Generation
von: Orbach, Matan, et al.
Veröffentlicht: (2025)

HyperAdaLoRA: Accelerating LoRA Rank Allocation During Training via Hypernetworks without Sacrificing Performance
von: Zhang, Hao, et al.
Veröffentlicht: (2025)

Generalizing Large Language Model Usability Across Resource-Constrained
von: Tsai, Yun-Da
Veröffentlicht: (2025)

Guiding LLMs The Right Way: Fast, Non-Invasive Constrained Generation
von: Beurer-Kellner, Luca, et al.
Veröffentlicht: (2024)

PMSS: Pretrained Matrices Skeleton Selection for LLM Fine-tuning
von: Wang, Qibin, et al.
Veröffentlicht: (2024)

ProcrustesGPT: Compressing LLMs with Structured Matrices and Orthogonal Transformations
von: Grishina, Ekaterina, et al.
Veröffentlicht: (2025)

PoeTone: A Framework for Constrained Generation of Structured Chinese Songci with LLMs
von: Qu, Zhan, et al.
Veröffentlicht: (2025)

SABER: Uncovering Vulnerabilities in Safety Alignment via Cross-Layer Residual Connection
von: Joshi, Maithili, et al.
Veröffentlicht: (2025)

Scaling Multi-Hop Training Data via Graph-Constrained Path Selection
von: Chen, Pengyu, et al.
Veröffentlicht: (2026)

Functionality-Oriented LLM Merging on the Fisher--Rao Manifold
von: Wang, Jiayu, et al.
Veröffentlicht: (2026)

Neuron-Level Knowledge Attribution in Large Language Models
von: Yu, Zeping, et al.
Veröffentlicht: (2023)

Mitigating Overthinking in Large Reasoning Models via Manifold Steering
von: Huang, Yao, et al.
Veröffentlicht: (2025)

Adapprox: Adaptive Approximation in Adam Optimization via Randomized Low-Rank Matrices
von: Zhao, Pengxiang, et al.
Veröffentlicht: (2024)

HyperMLP: An Integrated Perspective for Sequence Modeling
von: Lu, Jiecheng, et al.
Veröffentlicht: (2026)

HyperSteer: Activation Steering at Scale with Hypernetworks
von: Sun, Jiuding, et al.
Veröffentlicht: (2025)

Constrained Discrete Diffusion
von: Cardei, Michael, et al.
Veröffentlicht: (2025)

Towards Bridging the Reward-Generation Gap in Direct Alignment Algorithms
von: Xiao, Zeguan, et al.
Veröffentlicht: (2025)

Scientific Hypothesis Generation and Validation: Methods, Datasets, and Future Directions
von: Kulkarni, Adithya, et al.
Veröffentlicht: (2025)

HyperBERT: Mixing Hypergraph-Aware Layers with Language Models for Node Classification on Text-Attributed Hypergraphs
von: Bazaga, Adrián, et al.
Veröffentlicht: (2024)

Emotion Collider: Dual Hyperbolic Mirror Manifolds for Sentiment Recovery via Anti Emotion Reflection
von: Fu, Rong, et al.
Veröffentlicht: (2026)

Parallax: Parameterized Local Linear Attention for Language Modeling
von: Zuo, Yifei, et al.
Veröffentlicht: (2026)

HyperDAS: Towards Automating Mechanistic Interpretability with Hypernetworks
von: Sun, Jiuding, et al.
Veröffentlicht: (2025)

DreamDPO: Aligning Text-to-3D Generation with Human Preferences via Direct Preference Optimization
von: Zhou, Zhenglin, et al.
Veröffentlicht: (2025)

On the Limited Generalization Capability of the Implicit Reward Model Induced by Direct Preference Optimization
von: Lin, Yong, et al.
Veröffentlicht: (2024)

Geometric Properties of the Voronoi Tessellation in Latent Semantic Manifolds of Large Language Models
von: Brett, Marshall
Veröffentlicht: (2026)

Sequential Large Language Model-Based Hyper-parameter Optimization
von: Mahammadli, Kanan, et al.
Veröffentlicht: (2024)

Draft-Conditioned Constrained Decoding for Structured Generation in LLMs
von: Reddy, Avinash, et al.
Veröffentlicht: (2026)

ToxiGAN: Toxic Data Augmentation via LLM-Guided Directional Adversarial Generation
von: Li, Peiran, et al.
Veröffentlicht: (2026)