Downstream Task Guided Masking Learning in Masked Autoencoders Using Multi-Level Optimization
Fuente:
arXiv
Salvato in:
| Autori principali: | Guo, Han, Hosseini, Ramtin, Zhang, Ruiyi, Somayajula, Sai Ashish, Chowdhury, Ranak Roy, Gupta, Rajesh K., Xie, Pengtao |
|---|---|
| Natura: | Preprint |
| Pubblicazione: |
2024
|
| Soggetti: | |
| Accesso online: | |
| Tags: |
Aggiungi Tag
Nessun Tag, puoi essere il primo ad aggiungerne!!
|
Documenti analoghi
TapWeight: Reweighting Pretraining Objectives for Task-Adaptive Pretraining
di: Zhang, Ruiyi, et al.
Pubblicazione: (2024)
di: Zhang, Ruiyi, et al.
Pubblicazione: (2024)
AutoLoRA: Automatically Tuning Matrix Ranks in Low-Rank Adaptation Based on Meta Learning
di: Zhang, Ruiyi, et al.
Pubblicazione: (2024)
di: Zhang, Ruiyi, et al.
Pubblicazione: (2024)
DreamPRM: Domain-Reweighted Process Reward Model for Multimodal Reasoning
di: Cao, Qi, et al.
Pubblicazione: (2025)
di: Cao, Qi, et al.
Pubblicazione: (2025)
Improving the Language Understanding Capabilities of Large Language Models Using Reinforcement Learning
di: Hu, Bokai, et al.
Pubblicazione: (2024)
di: Hu, Bokai, et al.
Pubblicazione: (2024)
Can Prompts Rewind Time for LLMs? Evaluating the Effectiveness of Prompted Knowledge Cutoffs
di: Gao, Xin, et al.
Pubblicazione: (2025)
di: Gao, Xin, et al.
Pubblicazione: (2025)
Large Language Models for Time Series: A Survey
di: Zhang, Xiyuan, et al.
Pubblicazione: (2024)
di: Zhang, Xiyuan, et al.
Pubblicazione: (2024)
Generalizable and Stable Finetuning of Pretrained Language Models on Low-Resource Texts
di: Somayajula, Sai Ashish, et al.
Pubblicazione: (2024)
di: Somayajula, Sai Ashish, et al.
Pubblicazione: (2024)
How Effective is Pre-training of Large Masked Autoencoders for Downstream Earth Observation Tasks?
di: Sosa, Jose, et al.
Pubblicazione: (2024)
di: Sosa, Jose, et al.
Pubblicazione: (2024)
Token-Specific Watermarking with Enhanced Detectability and Semantic Coherence for Large Language Models
di: Huo, Mingjia, et al.
Pubblicazione: (2024)
di: Huo, Mingjia, et al.
Pubblicazione: (2024)
Where to Mask: Structure-Guided Masking for Graph Masked Autoencoders
di: Liu, Chuang, et al.
Pubblicazione: (2024)
di: Liu, Chuang, et al.
Pubblicazione: (2024)
Masked Autoencoders for Ultrasound Signals: Robust Representation Learning for Downstream Applications
di: Roßteutscher, Immanuel, et al.
Pubblicazione: (2025)
di: Roßteutscher, Immanuel, et al.
Pubblicazione: (2025)
Self-Guided Masked Autoencoder
di: Shin, Jeongwoo, et al.
Pubblicazione: (2025)
di: Shin, Jeongwoo, et al.
Pubblicazione: (2025)
BiDoRA: Bi-level Optimization-Based Weight-Decomposed Low-Rank Adaptation
di: Qin, Peijia, et al.
Pubblicazione: (2024)
di: Qin, Peijia, et al.
Pubblicazione: (2024)
Text-Guided Video Masked Autoencoder
di: Fan, David, et al.
Pubblicazione: (2024)
di: Fan, David, et al.
Pubblicazione: (2024)
BiLoRA: A Bi-level Optimization Framework for Overfitting-Resilient Low-Rank Adaptation of Large Pre-trained Models
di: Qiang, Rushi, et al.
Pubblicazione: (2024)
di: Qiang, Rushi, et al.
Pubblicazione: (2024)
Mask-Guided Multi-Task Network for Face Attribute Recognition
di: Gao, Gong, et al.
Pubblicazione: (2026)
di: Gao, Gong, et al.
Pubblicazione: (2026)
UniMTS: Unified Pre-training for Motion Time Series
di: Zhang, Xiyuan, et al.
Pubblicazione: (2024)
di: Zhang, Xiyuan, et al.
Pubblicazione: (2024)
Task-Informed Anti-Curriculum by Masking Improves Downstream Performance on Text
di: Jarca, Andrei, et al.
Pubblicazione: (2025)
di: Jarca, Andrei, et al.
Pubblicazione: (2025)
Self-Guided Masked Autoencoders for Domain-Agnostic Self-Supervised Learning
di: Xie, Johnathan, et al.
Pubblicazione: (2024)
di: Xie, Johnathan, et al.
Pubblicazione: (2024)
Improving Masked Autoencoders by Learning Where to Mask
di: Chen, Haijian, et al.
Pubblicazione: (2023)
di: Chen, Haijian, et al.
Pubblicazione: (2023)
Masked Autoencoders as Universal Speech Enhancer
di: Rajagopalan, Rajalaxmi, et al.
Pubblicazione: (2026)
di: Rajagopalan, Rajalaxmi, et al.
Pubblicazione: (2026)
AM-SAM: Automated Prompting and Mask Calibration for Segment Anything Model
di: Li, Yuchen, et al.
Pubblicazione: (2024)
di: Li, Yuchen, et al.
Pubblicazione: (2024)
Attention-Guided Masked Autoencoders For Learning Image Representations
di: Sick, Leon, et al.
Pubblicazione: (2024)
di: Sick, Leon, et al.
Pubblicazione: (2024)
Domain-Guided Masked Autoencoders for Unique Player Identification
di: Balaji, Bavesh, et al.
Pubblicazione: (2024)
di: Balaji, Bavesh, et al.
Pubblicazione: (2024)
Audiovisual Masked Autoencoders
di: Georgescu, Mariana-Iuliana, et al.
Pubblicazione: (2022)
di: Georgescu, Mariana-Iuliana, et al.
Pubblicazione: (2022)
Gaussian Masked Autoencoders
di: Rajasegaran, Jathushan, et al.
Pubblicazione: (2025)
di: Rajasegaran, Jathushan, et al.
Pubblicazione: (2025)
Masked Capsule Autoencoders
di: Everett, Miles, et al.
Pubblicazione: (2024)
di: Everett, Miles, et al.
Pubblicazione: (2024)
A Multi-Task Foundation Model for Wireless Channel Representation Using Contrastive and Masked Autoencoder Learning
di: Guler, Berkay, et al.
Pubblicazione: (2025)
di: Guler, Berkay, et al.
Pubblicazione: (2025)
SteganoBackdoor: Stealthy and Data-Efficient Backdoor Attacks on Language Models
di: Xue, Eric, et al.
Pubblicazione: (2025)
di: Xue, Eric, et al.
Pubblicazione: (2025)
Viewpoint Matters: Dynamically Optimizing Viewpoints with Masked Autoencoder for Visual Manipulation
di: Yi, Pengfei, et al.
Pubblicazione: (2026)
di: Yi, Pengfei, et al.
Pubblicazione: (2026)
Disentangling Masked Autoencoders for Unsupervised Domain Generalization
di: Zhang, An, et al.
Pubblicazione: (2024)
di: Zhang, An, et al.
Pubblicazione: (2024)
Recurrent Video Masked Autoencoders
di: Zoran, Daniel, et al.
Pubblicazione: (2025)
di: Zoran, Daniel, et al.
Pubblicazione: (2025)
Masked Autoencoders are PDE Learners
di: Zhou, Anthony, et al.
Pubblicazione: (2024)
di: Zhou, Anthony, et al.
Pubblicazione: (2024)
Multi-scale Masked Autoencoder for Electrocardiogram Anomaly Detection
di: Zhou, Ya, et al.
Pubblicazione: (2025)
di: Zhou, Ya, et al.
Pubblicazione: (2025)
Contrastive Masked Autoencoders for Character-Level Open-Set Writer Identification
di: Jiang, Xiaowei, et al.
Pubblicazione: (2025)
di: Jiang, Xiaowei, et al.
Pubblicazione: (2025)
SARMAE: Masked Autoencoder for SAR Representation Learning
di: Liu, Danxu, et al.
Pubblicazione: (2025)
di: Liu, Danxu, et al.
Pubblicazione: (2025)
Mask and Restore: Blind Backdoor Defense at Test Time with Masked Autoencoder
di: Sun, Tao, et al.
Pubblicazione: (2023)
di: Sun, Tao, et al.
Pubblicazione: (2023)
The Dynamic Duo of Collaborative Masking and Target for Advanced Masked Autoencoder Learning
di: Mo, Shentong
Pubblicazione: (2024)
di: Mo, Shentong
Pubblicazione: (2024)
Resource-Efficient Multiview Perception: Integrating Semantic Masking with Masked Autoencoders
di: Dakic, Kosta, et al.
Pubblicazione: (2024)
di: Dakic, Kosta, et al.
Pubblicazione: (2024)
Masked Autoencoders Are Effective Tokenizers for Diffusion Models
di: Chen, Hao, et al.
Pubblicazione: (2025)
di: Chen, Hao, et al.
Pubblicazione: (2025)
Documenti analoghi
-
TapWeight: Reweighting Pretraining Objectives for Task-Adaptive Pretraining
di: Zhang, Ruiyi, et al.
Pubblicazione: (2024) -
AutoLoRA: Automatically Tuning Matrix Ranks in Low-Rank Adaptation Based on Meta Learning
di: Zhang, Ruiyi, et al.
Pubblicazione: (2024) -
DreamPRM: Domain-Reweighted Process Reward Model for Multimodal Reasoning
di: Cao, Qi, et al.
Pubblicazione: (2025) -
Improving the Language Understanding Capabilities of Large Language Models Using Reinforcement Learning
di: Hu, Bokai, et al.
Pubblicazione: (2024) -
Can Prompts Rewind Time for LLMs? Evaluating the Effectiveness of Prompted Knowledge Cutoffs
di: Gao, Xin, et al.
Pubblicazione: (2025)