世界模型WHALE来了！
因此，具身智能体可以与世界模型进行交互，而不是直接与现实世界环境交互，以生成模拟数据，这些数据可以用于各种下游任务，包括反事实预测、离线策略评估、离线强化学习。
世界模型在具身环境的决策中起着至关重要的作用，使得在现实世界中成本高昂的探索成为可能。为了促进有效的决策，世界模型必须具备强大的泛化能力，以支持分布外（OOD）区域的想象，并提供可靠的不确定性估计来评估模拟体验的可信度，这两者都对之前的可扩展方法提出了重大挑战。
近日，来自南京大学、南栖仙策等机构的研究者在论文中引入了WHALE（World models with beHavior-conditioning and retrAcing-rollout LEarning），这是一个用于学习可泛化世界模型的框架，由两种可以与任何神经网络架构普遍结合的关键技术组成。
在确定策略分布差异是泛化误差的主要来源的基础上，研究者引入了一种行为—条件（behavior-conditioning）技术来增强世界模型的泛化能力，该技术建立在策略条件模型学习的概念之上，旨在使模型能够主动适应不同的行为，以减小分布偏移引起的外推误差。此外，研究者还提出了一种简单而有效的技术，称为retracing-rollout，以便对模型想象进行有效的不确定性估计，作为一种即插即用的解决方案，可以有效地应用于各种实施任务中的末端执行器姿态控制，而无需对训练过程进行任何更改。
通过整合WHALE的这两种技术，研究者提出了WHALE-ST，这是一种可扩展的基于时空transformer的世界模型，旨在实现更有效的决策。研究者进一步提出了WHALE-X，这是一个在970K机器人演示上预训练的414M参数世界模型。最后，研究者进行了大量的实验，以证明WHALE-ST和WHALE-X在模拟和现实世界任务中的卓越可扩展性与泛化性，突出了它们在增强决策方面的效果。
为了评估WHALE-X在实际物理环境中的泛化能力，研究团队在ARX5机器人上进行了全面实验。与预训练数据不同，评估任务调整了摄像机角度和背景等，增加了对世界模型的挑战。他们收集了每个任务60条轨迹的数据集用于微调，任务包括开箱、推盘、投球和移动瓶子，还设计了多个模型从未接触过的任务来测试模型的视觉、运动和任务泛化能力。
结果显示，WHALE-X在真实世界中展现出明显的优势：与没有行为—条件的模型相比，WHALEX的一致性提高了63％，表明该机制显著提升了OOD泛化能力；在97万个样本上进行预训练的WHALE-X，比从零开始训练的模型具有更高的一致性，凸显了大规模互联网数据预训练的优势；增加模型参数能够提升世界模型的泛化能力，WHALE-X-base（203M）动态模型在三个未见任务中的一致性比率是77M版本的3倍。此外，视频生成质量与一致性的结果一致。通过行为—条件策略、大规模预训练数据集和扩展模型参数，三种策略结合，显著提高了模型的OOD泛化能力，尤其是在生成高质量视频方面。
标签：
抢先读
- 世界模型WHALE来了！
- 港股航空股持续走高
- 浙江金东澧浦苗木城三年累计销售额超90亿元
- 陕西西咸空港综合保税区全域正式通过验收
- 浙江金东澧浦苗木城三年累计销售额超90亿元
- 构筑新优势 浙江安吉小镇组团奔向“大未来”
- 浙江金东澧浦苗木城三年累计销售额超90亿元
- 陕西西咸空港综合保税区全域正式通过验收
- 报告：生成式人工智能带来智慧旅游发展新机遇
- 青海湖之南推冰雪旅游大餐 冀“冰雪资源”成“火热经济”
- 浙江义乌第六代市场面向全球招商 外商可入驻开店
- 浙江义乌市场6.0时代：海量新技术成为商人“三头六臂”
- 企业反映经营还有困难？多部门表态：持续推动解决！
- 加快推进制造业数字化绿色化协同转型发展
- 国际金融论坛香港举行年会 探讨中国企业“出海”新航路
- 国际金融论坛香港举行年会 探讨中国企业“出海”新航路
- 浙江义乌市场6.0时代：海量新技术成为商人“三头六臂”
- 沪指周五跌逾3% 互联网电商板块逆势上涨
- 沪指周五跌逾3% 互联网电商板块逆势上涨
- 企业反映经营还有困难？多部门表态：持续推动解决！
- 国际金融论坛香港举行年会 探讨中国企业“出海”新航路
- 国际金融论坛香港举行年会 探讨中国企业“出海”新航路
- 沪指周五跌逾3% 互联网电商板块逆势上涨
- 中欧班列（郑州）开行突破10000列 通达欧洲40国
- （经济观察）热门中概股密集发布三季度业绩 “超预期”成关键词
- 国家外汇局：10月中国外汇市场总计成交24.26万亿元人民币
- 我国充电基础设施建设驶上“快车道” 汽车充换电产业生态将多方面拓展完善
- 今年前九月广州新设外资企业同比增长32.2%
- 今年前九月广州新设外资企业同比增长32.2%
- （经济观察）热门中概股密集发布三季度业绩 “超预期”成关键词
- 我国充电基础设施建设驶上“快车道” 汽车充换电产业生态将多方面拓展完善
- 三方面9条政策助力外贸企业稳订单拓市场 为经济持续回升提供“硬支撑”
- 透过乌镇看未来：数字警务“智慧护航”互联网大会
- 今年前九月广州新设外资企业同比增长32.2%
- 国家外汇局：10月中国外汇市场总计成交24.26万亿元人民币
- “绿美湾区‘碳’索未来” 广东边会在COP29中国角举办
- 透过乌镇看未来：数字警务“智慧护航”互联网大会
- 文旅部：促进旅行社研学旅游业务健康发展
- “国乐行者”方锦龙：一个“不靠谱”的演奏家
- “中国—东盟童书合作计划”累计推出71种图书
- “绿美湾区‘碳’索未来” 广东边会在COP29中国角举办
- 2024年“阅读北京”辐射超千万人次
- “国乐行者”方锦龙：一个“不靠谱”的演奏家
- 解谜三星堆：他们去哪儿了
- 为啥说小雪节气不一定下雪？
- 导演邵艺辉携钟楚曦“回家”路演 解读《好东西》中的“晋味道”
- 解谜三星堆：他们去哪儿了
- 安徽全面启动全域“无废城市”建设
- “国乐行者”方锦龙：一个“不靠谱”的演奏家
- 纪录片《叶尔羌河》创作研讨会在京举办
- “国乐行者”方锦龙：一个“不靠谱”的演奏家
- 儿童小说《狼洞的外婆》用丰沛想象传递成长和亲情的力量
- 儿童小说《狼洞的外婆》用丰沛想象传递成长和亲情的力量
- 冬季如何防护才能保持血压的稳定？医生解答
- 冬季如何防护才能保持血压的稳定？医生解答
- 创新保险模式 助力经济社会高质量发展
- 小雪节气后如何避免阳气损害？中医专家建议首先要潜藏
- 创新保险模式 助力经济社会高质量发展
- 黑龙江中俄友好医院揭牌：多领域合作为两国人民健康福祉贡献力量
- 中新健康｜六部门：完善基层药品联动管理 扩大基层药品种类
- 冬季怕冷人群如何养生保健？哪些人适合服用膏方？
- 中新教育丨教育部印发《中小学校园食品安全和膳食经费管理工作指引》
- 首个由中国主导的世界职教合作组织机构成立
- 登广告吁救台湾教育 区桂芝指现行课纲绑架所有师生
- 中新教育丨教育部印发《中小学校园食品安全和膳食经费管理工作指引》
- 福建师范大学成立全球南方教育研究中心
- “课间一刻钟”何以更好支持学生健康成长？
- 中国教育部：2025年全国硕士研究生报名人数为388万
- “课间一刻钟”何以更好支持学生健康成长？
- 中新教育丨教育部印发《中小学校园食品安全和膳食经费管理工作指引》
- 强化班主任队伍建设 赋能技工教育高质量发展——河南省技工院校班主任能力提升培训班圆满落幕
- 中疾控：有疫苗可预防的呼吸道疾病要尽早开展疫苗接种
- 冬季如何防护才能保持血压的稳定？医生解答
- 上海科研团队研究成果再登《自然》 提出限制性饮食联合抑制剂治疗肿瘤新策略
- 中新健康｜高速扩张暗藏隐忧 塔斯汀屡陷食品安全丑闻
- 冬季如何防护才能保持血压的稳定？医生解答
- 汤圆和饺子能在一起煮吗？速冻汤圆一般煮多久？
- 小雪节气后如何避免阳气损害？中医专家建议首先要潜藏
- 中新健康｜六部门：完善基层药品联动管理 扩大基层药品种类
- 成都市民兴隆湖畔享受初冬暖阳
- 小雪节气后如何避免阳气损害？中医专家建议首先要潜藏
- 中新健康｜高速扩张暗藏隐忧 塔斯汀屡陷食品安全丑闻
- 冬季怕冷人群如何养生保健？哪些人适合服用膏方？
- 驻马店市驿城区古城街道：爱心护学岗 共伴成长路
- 驻马店市驿城区朱古洞乡：打好秋冬战役 清洁美丽家园
- 西平县谭店乡：疏浚沟渠惠民生 未雨绸缪保稳定
- 西平县安委办积极助企纾困全力营造安全环境
- 北京将启动“京彩时光 银龄守望”养老志愿服务活动
- 云南民族体育项目发展蓬勃 展文化促“三交”
- 江西靖安：凝聚统战合力 激活文旅产业发展“一池春水”
- 江西靖安：凝聚统战合力 激活文旅产业发展“一池春水”
- 驻马店市生态环境局遂平分局组织参加全国固体废物管理信息系统填报培训会
- 国家菌草工程技术研究中心产学研合作（永德）基地授牌
- 国家菌草工程技术研究中心产学研合作（永德）基地授牌
- 千年城湖何以共生共荣？七位守护者讲述“西湖之美”
- 驻马店市驿城区古城街道：发挥党建引领力 激发产业新活力
- 西平县专探双河小学召开学习《教育系统重大事故隐患判定指南》专题会
- 国家菌草工程技术研究中心产学研合作（永德）基地授牌
- 日照探索道路交通纠纷多元解法 推进“一站式”办理化解
- 福建摸清自然资源“家底” 筑牢生态保护产权根基