Efficient Sketches for Training Data Attribution and Studying the Loss Landscape
Fuente:
arXiv
Salvato in:
| Autore principale: | Schioppa, Andrea |
|---|---|
| Natura: | Preprint |
| Pubblicazione: |
2024
|
| Soggetti: | |
| Accesso online: | |
| Tags: |
Aggiungi Tag
Nessun Tag, puoi essere il primo ad aggiungerne!!
|
Documenti analoghi
Covariance-aware sampling for Diffusion Models
di: Schioppa, Andrea, et al.
Pubblicazione: (2026)
di: Schioppa, Andrea, et al.
Pubblicazione: (2026)
Model Integrity when Unlearning with T2I Diffusion Models
di: Schioppa, Andrea, et al.
Pubblicazione: (2024)
di: Schioppa, Andrea, et al.
Pubblicazione: (2024)
Sketching the Readout of Large Language Models for Scalable Data Attribution and Valuation
di: Ran, Yide, et al.
Pubblicazione: (2026)
di: Ran, Yide, et al.
Pubblicazione: (2026)
Efficient Ensembles Improve Training Data Attribution
di: Deng, Junwei, et al.
Pubblicazione: (2024)
di: Deng, Junwei, et al.
Pubblicazione: (2024)
Challenges in Training PINNs: A Loss Landscape Perspective
di: Rathore, Pratik, et al.
Pubblicazione: (2024)
di: Rathore, Pratik, et al.
Pubblicazione: (2024)
Sketch to Adapt: Fine-Tunable Sketches for Efficient LLM Adaptation
di: Zhang, Tianyi, et al.
Pubblicazione: (2024)
di: Zhang, Tianyi, et al.
Pubblicazione: (2024)
On the Hyperparameter Loss Landscapes of Machine Learning Models: An Exploratory Study
di: Huang, Mingyu, et al.
Pubblicazione: (2023)
di: Huang, Mingyu, et al.
Pubblicazione: (2023)
Sensitivity Analysis On Loss Landscape
di: Faroz, Salman
Pubblicazione: (2024)
di: Faroz, Salman
Pubblicazione: (2024)
ExPLAIND: Unifying Model, Data, and Training Attribution to Study Model Behavior
di: Eichin, Florian, et al.
Pubblicazione: (2025)
di: Eichin, Florian, et al.
Pubblicazione: (2025)
Enhancing Training Data Attribution with Representational Optimization
di: Sun, Weiwei, et al.
Pubblicazione: (2025)
di: Sun, Weiwei, et al.
Pubblicazione: (2025)
Sharp Minima Can Generalize: A Loss Landscape Perspective On Data
di: Fan, Raymond, et al.
Pubblicazione: (2025)
di: Fan, Raymond, et al.
Pubblicazione: (2025)
A Versatile Influence Function for Data Attribution with Non-Decomposable Loss
di: Deng, Junwei, et al.
Pubblicazione: (2024)
di: Deng, Junwei, et al.
Pubblicazione: (2024)
Efficiently Verifiable Proofs of Data Attribution
di: Karchmer, Ari, et al.
Pubblicazione: (2025)
di: Karchmer, Ari, et al.
Pubblicazione: (2025)
Convergence and Sketching-Based Efficient Computation of Neural Tangent Kernel Weights in Physics-Based Loss
di: Hirsch, Max, et al.
Pubblicazione: (2025)
di: Hirsch, Max, et al.
Pubblicazione: (2025)
Training Data Attribution via Approximate Unrolled Differentiation
di: Bae, Juhan, et al.
Pubblicazione: (2024)
di: Bae, Juhan, et al.
Pubblicazione: (2024)
There is a Singularity in the Loss Landscape
di: Lowell, Mark
Pubblicazione: (2022)
di: Lowell, Mark
Pubblicazione: (2022)
The Optimiser Hidden in Plain Sight: Training with the Loss Landscape's Induced Metric
di: Harvey, Thomas R.
Pubblicazione: (2025)
di: Harvey, Thomas R.
Pubblicazione: (2025)
Using Degeneracy in the Loss Landscape for Mechanistic Interpretability
di: Bushnaq, Lucius, et al.
Pubblicazione: (2024)
di: Bushnaq, Lucius, et al.
Pubblicazione: (2024)
Paths and Ambient Spaces in Neural Loss Landscapes
di: Dold, Daniel, et al.
Pubblicazione: (2025)
di: Dold, Daniel, et al.
Pubblicazione: (2025)
Lego Sketch: A Scalable Memory-augmented Neural Network for Sketching Data Streams
di: Feng, Yuan, et al.
Pubblicazione: (2025)
di: Feng, Yuan, et al.
Pubblicazione: (2025)
Exploring Training Data Attribution under Limited Access Constraints
di: Zhang, Shiyuan, et al.
Pubblicazione: (2025)
di: Zhang, Shiyuan, et al.
Pubblicazione: (2025)
Detecting and Filtering Unsafe Training Data via Data Attribution with Denoised Representation
di: Pan, Yijun, et al.
Pubblicazione: (2025)
di: Pan, Yijun, et al.
Pubblicazione: (2025)
LossLens: Diagnostics for Machine Learning through Loss Landscape Visual Analytics
di: Xie, Tiankai, et al.
Pubblicazione: (2024)
di: Xie, Tiankai, et al.
Pubblicazione: (2024)
Visualization and Analysis of the Loss Landscape in Graph Neural Networks
di: Moustafa, Samir, et al.
Pubblicazione: (2025)
di: Moustafa, Samir, et al.
Pubblicazione: (2025)
Curvature-Aligned Probing for Local Loss-Landscape Stabilization
di: Kiselev, Nikita, et al.
Pubblicazione: (2026)
di: Kiselev, Nikita, et al.
Pubblicazione: (2026)
Landscaper: Understanding Loss Landscapes Through Multi-Dimensional Topological Analysis
di: Chen, Jiaqing, et al.
Pubblicazione: (2026)
di: Chen, Jiaqing, et al.
Pubblicazione: (2026)
Better Training Data Attribution via Better Inverse Hessian-Vector Products
di: Wang, Andrew, et al.
Pubblicazione: (2025)
di: Wang, Andrew, et al.
Pubblicazione: (2025)
LoRIF: Low-Rank Influence Functions for Scalable Training Data Attribution
di: Li, Shuangqi, et al.
Pubblicazione: (2026)
di: Li, Shuangqi, et al.
Pubblicazione: (2026)
Learning to Weight Parameters for Training Data Attribution
di: Li, Shuangqi, et al.
Pubblicazione: (2025)
di: Li, Shuangqi, et al.
Pubblicazione: (2025)
Sketch-of-Thought: Efficient LLM Reasoning with Adaptive Cognitive-Inspired Sketching
di: Aytes, Simon A., et al.
Pubblicazione: (2025)
di: Aytes, Simon A., et al.
Pubblicazione: (2025)
Visualizing, Rethinking, and Mining the Loss Landscape of Deep Neural Networks
di: Xu, Yichu, et al.
Pubblicazione: (2024)
di: Xu, Yichu, et al.
Pubblicazione: (2024)
Unveiling the Basin-Like Loss Landscape in Large Language Models
di: Chen, Huanran, et al.
Pubblicazione: (2025)
di: Chen, Huanran, et al.
Pubblicazione: (2025)
S2Aligner: Pair-Efficient and Transferable Pre-Training for Sparse Text-Attributed Graphs
di: Wang, Yuhan, et al.
Pubblicazione: (2026)
di: Wang, Yuhan, et al.
Pubblicazione: (2026)
Visualizing Loss Functions as Topological Landscape Profiles
di: Geniesse, Caleb, et al.
Pubblicazione: (2024)
di: Geniesse, Caleb, et al.
Pubblicazione: (2024)
Quanda: An Interpretability Toolkit for Training Data Attribution Evaluation and Beyond
di: Bareeva, Dilyara, et al.
Pubblicazione: (2024)
di: Bareeva, Dilyara, et al.
Pubblicazione: (2024)
LossVal: Efficient Data Valuation for Neural Networks
di: Wibiral, Tim, et al.
Pubblicazione: (2024)
di: Wibiral, Tim, et al.
Pubblicazione: (2024)
SketchOGD: Memory-Efficient Continual Learning
di: Min, Youngjae, et al.
Pubblicazione: (2023)
di: Min, Youngjae, et al.
Pubblicazione: (2023)
A Scalable Measure of Loss Landscape Curvature for Analyzing the Training Dynamics of LLMs
di: Kalra, Dayal Singh, et al.
Pubblicazione: (2026)
di: Kalra, Dayal Singh, et al.
Pubblicazione: (2026)
TabSketchFM: Sketch-based Tabular Representation Learning for Data Discovery over Data Lakes
di: Khatiwada, Aamod, et al.
Pubblicazione: (2024)
di: Khatiwada, Aamod, et al.
Pubblicazione: (2024)
Learning from the Right Rollouts: Data Attribution for PPO-based LLM Post-Training
di: Shu, Dong, et al.
Pubblicazione: (2026)
di: Shu, Dong, et al.
Pubblicazione: (2026)
Documenti analoghi
-
Covariance-aware sampling for Diffusion Models
di: Schioppa, Andrea, et al.
Pubblicazione: (2026) -
Model Integrity when Unlearning with T2I Diffusion Models
di: Schioppa, Andrea, et al.
Pubblicazione: (2024) -
Sketching the Readout of Large Language Models for Scalable Data Attribution and Valuation
di: Ran, Yide, et al.
Pubblicazione: (2026) -
Efficient Ensembles Improve Training Data Attribution
di: Deng, Junwei, et al.
Pubblicazione: (2024) -
Challenges in Training PINNs: A Loss Landscape Perspective
di: Rathore, Pratik, et al.
Pubblicazione: (2024)