No learning rates needed: Introducing SALSA -- Stable Armijo Line Search Adaptation

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Kenneweg, Philip, Kenneweg, Tristan, Fumagalli, Fabian, Hammer, Barbara
Format:	Preprint
Veröffentlicht:	2024
Schlagworte:	Machine Learning Artificial Intelligence
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

Improving Line Search Methods for Large Scale Neural Network Training
von: Kenneweg, Philip, et al.
Veröffentlicht: (2024)

Faster Convergence for Transformer Fine-tuning with Line Search Methods
von: Kenneweg, Philip, et al.
Veröffentlicht: (2024)

Intelligent Learning Rate Distribution to reduce Catastrophic Forgetting in Transformers
von: Kenneweg, Philip, et al.
Veröffentlicht: (2024)

Neural Architecture Search for Sentence Classification with BERT
von: Kenneweg, Philip, et al.
Veröffentlicht: (2024)

Retrieval Augmented Generation Systems: Automatic Dataset Creation, Evaluation and Boolean Agent Setup
von: Kenneweg, Tristan, et al.
Veröffentlicht: (2024)

JEPA for RL: Investigating Joint-Embedding Predictive Architectures for Reinforcement Learning
von: Kenneweg, Tristan, et al.
Veröffentlicht: (2025)

Uncertainty-Aware Remaining Lifespan Prediction from Images
von: Kenneweg, Tristan, et al.
Veröffentlicht: (2025)

Who Has The Final Say? Conformity Dynamics in ChatGPT's Selections
von: Arlinghaus, Clarissa Sabrina, et al.
Veröffentlicht: (2025)

KernelSHAP-IQ: Weighted Least-Square Optimization for Shapley Interactions
von: Fumagalli, Fabian, et al.
Veröffentlicht: (2024)

shapiq: Shapley Interactions for Machine Learning
von: Muschalik, Maximilian, et al.
Veröffentlicht: (2024)

Extending Fair Null-Space Projections for Continuous Attributes to Kernel Methods
von: Störck, Felix, et al.
Veröffentlicht: (2025)

Exact Computation of Any-Order Shapley Interactions for Graph Neural Networks
von: Muschalik, Maximilian, et al.
Veröffentlicht: (2025)

Explaining Similarity in Vision-Language Encoders with Weighted Banzhaf Interactions
von: Baniecki, Hubert, et al.
Veröffentlicht: (2025)

Towards Understanding the Influence of Training Samples on Explanations
von: Artelt, André, et al.
Veröffentlicht: (2024)

Fairness-Enhancing Ensemble Classification in Water Distribution Networks
von: Strotherm, Janine, et al.
Veröffentlicht: (2024)

Conceptualizing Uncertainty: A Concept-based Approach to Explaining Uncertainty
von: Roberts, Isaac, et al.
Veröffentlicht: (2025)

Attributions All the Way Down? The Metagame of Interpretability
von: Baniecki, Hubert, et al.
Veröffentlicht: (2026)

Monte Carlo Permutation Search
von: Cazenave, Tristan
Veröffentlicht: (2025)

The Observer Effect in World Models: Invasive Adaptation Corrupts Latent Physics
von: Internò, Christian, et al.
Veröffentlicht: (2026)

PolySHAP: Extending KernelSHAP with Interaction-Informed Polynomial Regression
von: Fumagalli, Fabian, et al.
Veröffentlicht: (2026)

Continuous Fair SMOTE -- Fairness-Aware Stream Learning from Imbalanced Data
von: Lammers, Kathrin, et al.
Veröffentlicht: (2025)

HyperSHAP: Shapley Values and Interactions for Explaining Hyperparameter Optimization
von: Wever, Marcel, et al.
Veröffentlicht: (2025)

Debiasing Sentence Embedders through Contrastive Word Pairs
von: Kenneweg, Philip, et al.
Veröffentlicht: (2024)

Physics-Informed Graph Neural Networks for Water Distribution Systems
von: Ashraf, Inaam, et al.
Veröffentlicht: (2024)

The Effect of Data Poisoning on Counterfactual Explanations
von: Artelt, André, et al.
Veröffentlicht: (2024)

Federated Loss Exploration for Improved Convergence on Non-IID Data
von: Internò, Christian, et al.
Veröffentlicht: (2025)

One-Class Intrusion Detection with Dynamic Graphs
von: Liuliakov, Aleksei, et al.
Veröffentlicht: (2025)

Limits of PRM-Guided Tree Search for Mathematical Reasoning with LLMs
von: Cinquin, Tristan, et al.
Veröffentlicht: (2025)

Test-Time Adaptation Induces Stronger Accuracy and Agreement-on-the-Line
von: Kim, Eungyeup, et al.
Veröffentlicht: (2023)

An Odd Estimator for Shapley Values
von: Fumagalli, Fabian, et al.
Veröffentlicht: (2026)

Not all tokens are needed(NAT): token efficient reinforcement learning
von: Sang, Hejian, et al.
Veröffentlicht: (2026)

Dynamic Context Adaptation and Information Flow Control in Transformers: Introducing the Evaluator Adjuster Unit and Gated Residual Connections
von: Dhayalkar, Sahil Rajesh
Veröffentlicht: (2024)

DGPO: RL-Steered Graph Diffusion for Neural Architecture Generation
von: Liuliakov, Aleksei, et al.
Veröffentlicht: (2026)

Beyond TreeSHAP: Efficient Computation of Any-Order Shapley Interactions for Tree Ensembles
von: Muschalik, Maximilian, et al.
Veröffentlicht: (2024)

Normalization and effective learning rates in reinforcement learning
von: Lyle, Clare, et al.
Veröffentlicht: (2024)

Targeted Visualization of the Backbone of Encoder LLMs
von: Roberts, Isaac, et al.
Veröffentlicht: (2024)

Combinatorial Optimization with Policy Adaptation using Latent Space Search
von: Chalumeau, Felix, et al.
Veröffentlicht: (2023)

Exactly Computing do-Shapley Values
von: Witter, R. Teal, et al.
Veröffentlicht: (2026)

Scaling Combinatorial Optimization Neural Improvement Heuristics with Online Search and Adaptation
von: Verdù, Federico Julian Camerota, et al.
Veröffentlicht: (2024)

Stable-LoRA: Stabilizing Feature Learning of Low-Rank Adaptation
von: Wu, Yize, et al.
Veröffentlicht: (2026)