Buchumschlag

Semantic Tube Prediction: Beating LLM Data Efficiency with JEPA

Fuente: arXiv

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	Huang, Hai, LeCun, Yann, Balestriero, Randall
Format:	Preprint
Veröffentlicht:	2026
Schlagworte:	Machine Learning
Online-Zugang:	Acceder al recurso
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Ähnliche Einträge

LeJEPA: Provable and Scalable Self-Supervised Learning Without the Heuristics
von: Balestriero, Randall, et al.
Veröffentlicht: (2025)

LLM-JEPA: Large Language Models Meet Joint Embedding Predictive Architectures
von: Huang, Hai, et al.
Veröffentlicht: (2025)

Fast and Exact Enumeration of Deep Networks Partitions Regions
von: Balestriero, Randall, et al.
Veröffentlicht: (2024)

Learning by Reconstruction Produces Uninformative Features For Perception
von: Balestriero, Randall, et al.
Veröffentlicht: (2024)

Variance Covariance Regularization Enforces Pairwise Independence in Self-Supervised Representations
von: Mialon, Grégoire, et al.
Veröffentlicht: (2022)

Rectified LpJEPA: Joint-Embedding Predictive Architectures with Sparse and Maximum-Entropy Representations
von: Kuang, Yilun, et al.
Veröffentlicht: (2026)

Gaussian Embeddings: How JEPAs Secretly Learn Your Data Density
von: Balestriero, Randall, et al.
Veröffentlicht: (2025)

LeWorldModel: Stable End-to-End Joint-Embedding Predictive Architecture from Pixels
von: Maes, Lucas, et al.
Veröffentlicht: (2026)

Learning from Reward-Free Offline Data: A Case for Planning with Latent Dynamics Models
von: Sobal, Vlad, et al.
Veröffentlicht: (2025)

Value-guided action planning with JEPA world models
von: Destrade, Matthieu, et al.
Veröffentlicht: (2025)

Causal-JEPA: Learning World Models through Object-Level Latent Masking
von: Nam, Heejeong, et al.
Veröffentlicht: (2026)

Introduction to Latent Variable Energy-Based Models: A Path Towards Autonomous Machine Intelligence
von: Dawid, Anna, et al.
Veröffentlicht: (2023)

Temporal Straightening for Latent Planning
von: Wang, Ying, et al.
Veröffentlicht: (2026)

Radial-VCReg: More Informative Representation Learning Through Radial Gaussianization
von: Kuang, Yilun, et al.
Veröffentlicht: (2026)

ALLoRA: Adaptive Learning Rate Mitigates LoRA Fatal Flaws
von: Huang, Hai, et al.
Veröffentlicht: (2024)

$\mathbb{X}$-Sample Contrastive Loss: Improving Contrastive Learning with Sample Similarity Graphs
von: Sobal, Vlad, et al.
Veröffentlicht: (2024)

A hierarchical loss and its problems when classifying non-hierarchically
von: Wu, Cinna, et al.
Veröffentlicht: (2017)

JEPA as a Neural Tokenizer: Learning Robust Speech Representations with Density Adaptive Attention
von: Ioannides, Georgios, et al.
Veröffentlicht: (2025)

Crys-JEPA: Accelerating Crystal Discovery via Embedding Screening and Generative Refinement
von: Liu, Nian, et al.
Veröffentlicht: (2026)

Harnessing Explanations: LLM-to-LM Interpreter for Enhanced Text-Attributed Graph Representation Learning
von: He, Xiaoxin, et al.
Veröffentlicht: (2023)

Hierarchical Planning with Latent World Models
von: Zhang, Wancong, et al.
Veröffentlicht: (2026)

URLOST: Unsupervised Representation Learning without Stationarity or Topology
von: Yun, Zeyu, et al.
Veröffentlicht: (2023)

What Drives Success in Physical Planning with Joint-Embedding Predictive World Models?
von: Terver, Basile, et al.
Veröffentlicht: (2025)

No Location Left Behind: Measuring and Improving the Fairness of Implicit Representations for Earth Data
von: Cai, Daniel, et al.
Veröffentlicht: (2025)

Why and How Auxiliary Tasks Improve JEPA Representations
von: Yu, Jiacan, et al.
Veröffentlicht: (2025)

stable-worldmodel: A Platform for Reproducible World Modeling Research and Evaluation
von: Maes, Lucas, et al.
Veröffentlicht: (2026)

Parallel Stochastic Gradient-Based Planning for World Models
von: Psenka, Michael, et al.
Veröffentlicht: (2026)

On Training in Imagination
von: Timor, Nadav, et al.
Veröffentlicht: (2026)

Does Representation Matter? Exploring Intermediate Layers in Large Language Models
von: Skean, Oscar, et al.
Veröffentlicht: (2024)

Eidetic Learning: an Efficient and Provable Solution to Catastrophic Forgetting
von: Dronen, Nicholas, et al.
Veröffentlicht: (2025)

Blockwise Self-Supervised Learning at Scale
von: Siddiqui, Shoaib Ahmed, et al.
Veröffentlicht: (2023)

Exploiting Linear Structure Within Convolutional Networks for Efficient Evaluation
von: Denton, Remi, et al.
Veröffentlicht: (2014)

PrAg-PO: Prompt Augmented Policy Optimization for Robust and Diverse Mathematical Reasoning
von: Lu, Wenquan, et al.
Veröffentlicht: (2026)

Light-weight probing of unsupervised representations for Reinforcement Learning
von: Zhang, Wancong, et al.
Veröffentlicht: (2022)

Whole-Body Conditioned Egocentric Video Prediction
von: Bai, Yutong, et al.
Veröffentlicht: (2025)

Task Priors: Enhancing Model Evaluation by Considering the Entire Space of Downstream Tasks
von: Patel, Niket, et al.
Veröffentlicht: (2025)

SAFE: A Novel Approach to AI Weather Evaluation through Stratified Assessments of Forecasts over Earth
von: Masi, Nick, et al.
Veröffentlicht: (2025)

Self-Supervised Learning with Lie Symmetries for Partial Differential Equations
von: Mialon, Grégoire, et al.
Veröffentlicht: (2023)

PooDLe: Pooled and dense self-supervised learning from naturalistic videos
von: Wang, Alex N., et al.
Veröffentlicht: (2024)

Navigation World Models
von: Bar, Amir, et al.
Veröffentlicht: (2024)