← 世界模型 / 从表征到预测

正式发表 / World Models

MAE

Masked Autoencoders Are Scalable Vision Learners

CVPR · 2022CCF A

快照 2026-10-28 · 引用:Semantic Scholar / arXiv 关联记录 · 代码核验依据 ↗

关键框架 FRAMEWORK
可见 patch 编码与掩码重建CVPR 2022 · Fig. 1 · p.1 ↗

仅编码可见 patch,用轻量解码器重建缺失像素;预训练后移除解码器,将编码器迁移到下游任务。

  1. 01遮挡图像 patch
  2. 02编码可见内容
  3. 03重建并迁移编码器
MAE可见 patch 编码与掩码重建
可见 patch 编码与掩码重建

仅编码可见 patch,用轻量解码器重建缺失像素;预训练后移除解码器,将编码器迁移到下游任务。 来源 ↗ · 打开完整图片 ↗

THE IDEA

它在解决什么

仅编码可见 patch,用轻量解码器重建缺失像素;预训练后移除解码器,将编码器迁移到下游任务。

WHY READ IT

为什么放在这条路线

与 DINO 的教师分布匹配对照,MAE 使用像素重建目标;它为机器人视觉预训练提供方法基础。

当前阶段从表征到预测 ↗

表征目标如何影响奖励、动力学和控制?

READ WITH A QUESTION

读的时候,留意什么

图像重建质量与控制效用不是同一指标;原始 MAE 没有机器人动作输出。

我的阅读笔记

LOCAL NOTES
笔记仅保存在当前浏览器