更新至 2026.10
JEPA 联合嵌入预测架构
覆盖证据依据专题内 6 篇核心论文
JEPA 不直接预测下一个词元或复原每个像素，而是在潜空间预测被遮挡区域或未来内容的表征，保留语义、运动和其他可预测结构。
HOW TO READ · 判断框架
阅读这个专题时，看这三个变量
预测像素，还是潜在表征？
只理解单帧，还是预测视频与动作后的未来？
只看表征评测，还是验证真实规划与控制？
THREE DISTINCTIONS · 三个核心特性
理解 JEPA，先把它和相邻概念分开
预测连续表征，不是下一个词元
文本模型通常对离散 token 建模；JEPA 预测编码器产生的连续潜在表示，目标是捕捉输入中可预测的语义与动态。
忽略不可预测细节，学习稳定结构
它不要求还原纹理和噪声等全部低层细节，而是把建模能力集中在物体、运动和场景关系等可预测结构上。
能预测潜在状态，不等于能可靠规划
只有加入动作条件、多步预测并在控制任务中验证，JEPA 才逐步接近世界模型；目前长期和分布外证据仍有限。