近期，世界模型的概念引发了火热浪潮，而自动驾驶领域岂能隔岸观「火」。来自中科院自动化所的团队，首次提出了一种名为 Drive-WM 的全新多视图世界模型，旨在增强端到端自动驾驶规划的安全性。
☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 免费无限量使用 DeepSeek R1 模型☜☜☜
网站：https://drive-wm.github.io
论文网址：https://arxiv.org/abs/2311.17918
无阶未来模型擂台/AI 应用平台
无阶未来模型擂台/AI 应用平台，一站式模型+应用平台
35 查看详情
首个多视图预测和规划的自动驾驶世界模型
在 CVPR2023 自动驾驶的研讨会上，特斯拉和 Wayve 两大科技巨头狂秀黑科技，一种名为「生成式世界模型」的全新概念随之火爆自动驾驶领域。Wayve 更是发布了 GAIA-1 的生成式 AI 模型，展示了令人震撼的视频场景生成能力。而最近，中科院自动化所的研究者们也提出了一个新的自动驾驶世界模型 ——Drive-WM，首次实现了多视图预测的世界模型，与当下主流的端到端自动驾驶规划器无缝结合。
Drive-WM 利用了 Diffusion 模型的强大生成能力，能够生成逼真的视频场景。
想象一下，你正在开车，而你的车载系统正在根据你的驾驶习惯和路况预测未来的发展，并生成相应的视觉反馈来指导轨迹路线的选择。这种预见未来的能力和规划器相结合，将极大地提高自动驾驶的安全性！
基于多视图世界模型的预测和规划。
世界模型与端到端自动驾驶的结合提升驾驶安全性
Drive-WM 模型首次将世界模型与端到端规划相结合，为端到端自动驾驶的发展打开了新的篇章。在每个时间步上，规划器可以借助世界模型预测未来可能发生的情景，再利用图像奖励函数全面评估。
基于世界模型的端到端轨迹规划树可以进行重写
采用最佳估计法和扩展规划树技术，可以实现更加有效和安全的规划
Drive-WM通过创新地研究，探索了世界模型在端到端规划中的两种应用
1. 展示了世界模型在面对 OOD 场景时的鲁棒性。作者通过对比实验发现了目前的端到端规划器在面对 OOD 情况时的表现并不理想。
作者给出了以下图片，当对初始位置进行轻微的横向偏移扰动后，目前的端到端规划器就难以输出合理的规划路线。
端到端规划器在面对 OOD 情况时难以输出合理的规划路线。
Drive-WM的强大生成能力为解决OOD问题提供了新的思路。作者利用生成的视频来微调规划器，从OOD数据中进行学习，使得规划器在面对这样的场景时可以拥有更好的性能
2. 这表明了引入未来场景评估对于端到端规划的增强作用
如何构建多视图的视频生成模型
多视图视频生成的时空一致性一直以来都是一个具有挑战性的问题。Drive-WM 通过引入时序层的编码来扩展视频生成的能力，并通过视图分解建模的方式实现多视图的视频生成。这种视图分解的生成方式可以极大地提升视图之间的一致性
Drive-WM 整体模型设计
高质量的视频生成与可控性
Drive-WM实现了高质量的多视图视频生成，并且具有出色的可控性。它提供了多种控制选项，可以通过文本、场景布局、运动信息来控制多视图视频的生成，也为将来的神经仿真器提供了新的可能性
比如使用文本来改变天气和光照：
例如，行人的产生和前景的编辑：
利用速度和方向的控制方法：
生成稀有事件，例如在路口掉头或开进侧方草丛
结语
Drive-WM 不仅展示了其强大的多视图视频生成能力，也揭示了世界模型与端到端驾驶模型相结合的巨大潜力。相信在未来，世界模型可以帮助实现更安全、稳定、可靠的端到端自动驾驶系统。
以上就是来一趟未来之旅，首个多视图预测+规划自动驾驶世界模型抵达的详细内容，更多请关注创想鸟其它相关文章！
版权声明：本文内容由互联网用户自发贡献，该文观点仅代表作者本人。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。
如发现本站有涉嫌抄袭侵权/违法违规的内容， 请发送邮件至 chuangxiangniao@163.com 举报，一经查实，本站将立刻删除。
发布者：程序猿，转转请注明出处：https://www.chuangxiangniao.com/p/453382.html
微信扫一扫 
支付宝扫一扫 
