腾讯机器人研究登顶刊!能帮程序员安显示器,像真人一样协同干活

国产机器人新突破:

两只各自独立的机械臂,已经可以丝滑地打配合了!

不信你看这双手拧瓶盖

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 免费无限量使用 DeepSeek R1 模型☜☜☜

腾讯机器人研究登顶刊!能帮程序员安显示器,像真人一样协同干活

拧完再端起杯子倒水

腾讯机器人研究登顶刊!能帮程序员安显示器,像真人一样协同干活

活灵活现,如真人。

呐,还能搭把手帮程序员安装好显示屏

腾讯机器人研究登顶刊!能帮程序员安显示器,像真人一样协同干活

甚至接过“同事”手里的大箱子

可以说是各种几何和物理特性的物体都能稳稳hold住。

(下一步还能干啥,不敢想)

这就是腾讯Robotics X实验室的最新成果:通用双臂协同灵巧操作框架。目前已登上机器人领域顶刊《IEEE Transactions on Robotics》。

腾讯机器人研究登顶刊!能帮程序员安显示器,像真人一样协同干活

既然是干活,抗干扰能力得有:

腾讯机器人研究登顶刊!能帮程序员安显示器,像真人一样协同干活

既然是双手干活,两胳膊就不能“搅”一起:

下面这个不明觉厉的“椅子360°翻转操作”,就展现的是它全自主的“双臂避自碰”能力

腾讯机器人研究登顶刊!能帮程序员安显示器,像真人一样协同干活

最后,偶尔遇到人类调皮,它也可以轻松get,完成意图识别、进行动态交互

(给我给我啊喂,算了我收手)

腾讯机器人研究登顶刊!能帮程序员安显示器,像真人一样协同干活

具体技术细节,这就揭秘~

人型双臂系统通用性实现

通用人形机器人无疑是近年来机器人与AI交叉领域的研究热点。

其中的人形双臂系统直接承载着这类机器人操作任务的执行能力。

任意抓取和操作具有各种几何和物理特性的任意物体则是这类系统通用化的技术体现。

而现有研究工作大多专注解决某一特定层级的问题,例如环境-物体的感知、推理与策略生成、机器人系统的规划或操作控制。

并且方案通常与特定的被操作物体或任务强相关,难以迁移和泛化。

腾讯Robotics X实验室指出,要想实现这样的通用化双臂系统,需要解决现有研究工作中三个关键的共性问题

首先,如何基于视觉感知实现未知物体的双臂协同最优抓取。

其次,如何确保工作空间高度重叠的双臂机器人在动态协同过程中的系统安全性。

最后,如何将丰富的人类技能转移到仅拥有有限跟踪接口类型的机器人系统中。

在此,腾讯Robotics X实验室提出的包含两个相互耦合关联的子框架

1、基于学习的灵巧可达感知子框架采用端到端评估网络和机器人可达性概率化建模,实现对未建模物体的最优协同抓取。

2、基于优化的多功能控制子框架则采用层级化的多优先级优化框架,并通过嵌入基于学习生成的轻量级距离代理函数和黎曼流形上的速度级跟踪控制技术。

同时实现了高精度双臂避自碰和高拟真双臂操作度椭球跟踪,保证了双臂系统的本质安全并开放了操作度椭球跟踪接口。

此外,该研究还首次系统性解决了基于视觉感知的未知物体双臂协同最优抓取,实现了工作空间高度重叠的双臂机器人本质安全并开放了可用于人机技能迁移学习的双臂协同操作度椭球跟踪接口。

最终,该系统在感知层、双手抓取、协同操作规划和底层控制等方面提供了丰富的接口,具有很高的通用性、可扩展性和兼容性。

技术细节如下:

灵巧可达感知子框架

围绕灵巧可达感知子框架,为实现对未知物体的双臂协同抓取,需要为双臂系统自主生成可执行的灵巧最优抓取对。

研究人员从数据集生成,抓取质量评估网络和双臂机器人可达性概率化建模三个层面着手,系统性设计了灵巧-可达感知双臂抓取子框架,实现视觉系统感知到的物体3D点云到灵巧-可达最优的双臂6D抓取位姿对之间的端到端映射。

腾讯机器人研究登顶刊!能帮程序员安显示器,像真人一样协同干活

1、双臂灵巧感知抓取数据集

为建立准确的输入点云与输出双臂抓取质量之间的映射关系并有效训练抓取评估网络,研究人员提出了业界首个大规模灵巧性感知的双臂抓取合成数据集(DA2 Dataset)。

该数据集包含6327个物体的Mesh和超过900万组抓取对,每一组抓取都采用抓取奇异性-抓取稳定性-抓取力兼容性三个指标做了标注。

腾讯机器人研究登顶刊!能帮程序员安显示器,像真人一样协同干活

腾讯机器人研究登顶刊!能帮程序员安显示器,像真人一样协同干活

2、双臂协同抓取质量评估网络

实际场景中一般可采用例如启发式采样等技术在感知到的物体3D点云上生成候选抓取对,为实时在线评估这些候选抓取对的质量并输出最优解。

研究人员设计了面向双臂协同抓取的质量评估网络Dual-PointNetGPD,并利用DA2数据集进行训练。

相较于基于简化接触力模型和依赖精确物体几何特征的传统分析方法而言,基于学习的Dual-PointNetGPD可以直接处理有噪声的3D点云并对候选双臂抓取构型的灵巧性和可靠性进行评估。

因而对广泛存在的视觉感知噪声具有更高的鲁棒性。

3、双臂可达性建模与最优抓取分配

Giiso写作机器人 Giiso写作机器人

Giiso写作机器人,让写作更简单

Giiso写作机器人 56 查看详情 Giiso写作机器人

Dual-PointNetGPD从视觉感知的角度输出抓取对质量评估结构,针对特定的双臂机器人系统,还需要从机器人本体角度考虑候选抓取对在机器人操作空间中的可达性问题和抓取对在双臂之间的分配问题。

研究人员采用单位四元数高斯混合模型建模技术对双臂6自由度工作空间进行建模并设计了概率最大化分配策略,实现了双臂抓取可达性与抓取灵巧性评估的融合统一。

多功能协同操作控制子框架

针对多功能协同操作控制子框架,具备协同抓取未知物体的能力是实现双臂通用化的第一步,而具备本体安全感知的协同操作运动规划是衔接通用抓取并实现通用操作的第二步。

由于人形双臂机器人系统的两条机械臂的工作空间往往高度重叠,对于执行双臂动态任务的机器人本体而言,避自碰撞需要放在运动规划中的最高优先级,在提升避碰精度的同时还需要减小在线计算代价以保证避碰实时性。

此外,作为重要的操作性能指标和机器人技能表征之一,双臂协同操作度椭球需要被连续控制以实现对机械臂构型的实时优化,从而提高双臂系统的操作灵巧度,避免因操作奇异性导致的任务失败。

研究人员为此设计了一个新型的多功能协同操作控制子框架。

该框架基于层级化的多目标多优先级优化框架,将学习得到的轻量级双臂最小距离代理函数和黎曼流形速度跟踪任务以不等式约束的形式嵌入到不同的优先级中。

从而实现了双臂操作运动规划的本质安全性与人机技能迁移学习中双臂构型优化的高拟真性。

腾讯机器人研究登顶刊!能帮程序员安显示器,像真人一样协同干活

1、双臂高精度避自碰

腾讯机器人研究登顶刊!能帮程序员安显示器,像真人一样协同干活
△ 工作空间高度交叠的人形双臂机器人

获取精确可靠的描述双臂碰撞边界的最小距离函数是将避碰约束嵌入到多优先级优化框架中并实现双臂避自碰的关键一步。

由于双臂构型空间维度高且工作空间相互交叠,使得其中的安全子空间与碰撞子空间分布严重失衡而难以分割开。

研究人员提出了一种新颖的基于主动学习的采样方法,用以生成大规模的、平衡的、信息丰富的双臂碰撞数据集。

然后通过机器学习的方式对双臂最小距离关于双臂构型的映射关系予以拟合,从而高效获取高精度的最小距离代理函数。

腾讯机器人研究登顶刊!能帮程序员安显示器,像真人一样协同干活
△基于主动学习的采样算法示意

2、基于黎曼几何的双臂协同操作度椭球跟踪

除避自碰以外,操作度椭球跟踪因其与操作技能和操作构型强相关,也是双臂系统控制中需要重点处理的问题。

双臂操作度椭球由对称正定矩阵(SPD)来描述,研究人员通过设计流形空间中的速度前馈项并结合误差控制原理,实现了双臂操作度椭球的实时跟踪以及跟踪误差的全局指数收敛,并给出了完整的理论分析与证明。

双臂操作度椭球跟踪任务以等式约束的形式嵌入到了多优先级优化框架中并以双臂操作度椭球跟踪接口的形式呈现。

3、多优先级优化与控制器设计

研究人员采用协同任务空间变量(双臂绝对运动与双臂相对运动)来描述所有的双臂协同-非协同/同步-异步任务,并基于多目标多优先级框架设计了双臂通用协同操作控制的系统框架。

该框架将上述双臂避自碰,双臂操作度椭球跟踪等多任务进行有机融合在一起,从而在运动规划与控制层面为双臂通用化扫清了障碍。

腾讯机器人研究登顶刊!能帮程序员安显示器,像真人一样协同干活

协同抓取、避自碰样样出色

为验证双臂最优协同抓取,双臂避自碰以及双臂协同操作度椭球跟踪方面的有效性,研究人员就所设计的Dual-PointNetGPD网络、学习生成的双臂最小距离代理函数以及SPD流形跟踪误差进行了定量分析。

1、双臂最优协同抓取 研究人员在物理仿真引擎中开展了大规模消融实验,结果表明所设计和训练的Dual-PointNetGPD网络有效提升了大尺寸未建模物体抓取任务中的双臂协同抓取成功率

腾讯机器人研究登顶刊!能帮程序员安显示器,像真人一样协同干活

2、双臂避自碰
主要从双臂碰撞数据集生成与双臂最小距离代理函数两个维度做分析,考虑到双臂构型空间是14维,以20-30°为采样步长进行低精度采样,每一维分成10等分,需要的数据集规模也达到了1014。

研究人员使用基于主动学习的采样技术生成双臂碰撞数据集,200万数据规模的前提下即可实现95%以上的高预测精度,相较于目前在非平衡数据集学习中广泛使用的b-SMOTE等技术而言具有更高的数据效率和预测精度。

腾讯机器人研究登顶刊!能帮程序员安显示器,像真人一样协同干活

△平均预测误差与预测准确性分析

此外,基于学习训练生成的双臂最小距离代理函数计算一次双臂最小距离的时间约为0.072ms,显著低于被广泛使用的FCL算法库所需的5.36ms,且方差更小。

这极大地提升了该方法在实际部署时的实时性并保证了整个双臂协同运动规划的稳定可预测。

此外,代理函数展现了优异的连续性和可微性,这对于将避自碰以不等式约束的形式嵌入到平滑多目标优化框架中非常重要。

腾讯机器人研究登顶刊!能帮程序员安显示器,像真人一样协同干活

△表计算时间对比分析

腾讯机器人研究登顶刊!能帮程序员安显示器,像真人一样协同干活
△平滑性对比分析

3、双臂协同操作度椭球跟踪

通过消融实验验证了所设计并嵌入到多目标优化框架中的操作都椭球跟踪约束有效地降低了双臂实际构型与期望构型之间的差异,验证了SPD流形跟踪接口的有效性。

腾讯机器人研究登顶刊!能帮程序员安显示器,像真人一样协同干活

4、双臂协同翻转实验:

为验证自主避自碰能力,研究人员设计了需要极限扭转的协同翻转实验中。

在该实验中,双臂系统自主完成了互缠绕无碰轨迹运动规划,在不改变抓握构型的前提下实现了对椅子360°翻转操作。

物体的绝对运动在回转方向上始终保持高精度跟踪,在其他自由度上则动态地自主松弛,双臂相对运动误差低于0.003 (m 或rad),避碰安全距离被高效压缩到了2.5 cm。

同时整个多功能协同操作控制子框架在采用机械臂高精度网格模型下的典型计算时间为8.318 ms,解决了高精度和高实时性不可同时实现的困境。

以上结果也表明各级任务严格按照所给定的优先级执行。

腾讯机器人研究登顶刊!能帮程序员安显示器,像真人一样协同干活

在long-horizon重排实验中,双臂机器人系统连续抓取和操作人居环境中常见的桌面书架,储物篮和显示器支架这3个未建模物体。

实验结果表明双臂机器人在所设计的通用框架下能协同抓取大尺寸物体并能在执行复杂协同操作任务过程中全自主高精度避自碰

腾讯机器人研究登顶刊!能帮程序员安显示器,像真人一样协同干活

总结:

可以看到,该研究首次系统性解决了基于视觉感知的未知物体双臂协同最优抓取,实现了工作空间高度重叠的双臂机器人本质安全,并开放了可用于人机技能迁移学习的双臂协同操作度椭球跟踪接口。

这一自上而下研究具身智能并至下而上研究机器人操作规划与控制的工作,有助于弥合AI与Robotics之间的技术鸿沟,提升基于AI生成的操作策略在物理世界中执行的稳定性和可靠性,加速双臂系统全自主通用化的到来。

论文地址:https://ieeexplore.ieee.org/document/10449470

以上就是腾讯机器人研究登顶刊!能帮程序员安显示器,像真人一样协同干活的详细内容,更多请关注创想鸟其它相关文章!

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。
如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至 chuangxiangniao@163.com 举报,一经查实,本站将立刻删除。
发布者:程序猿,转转请注明出处:https://www.chuangxiangniao.com/p/618723.html

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
上一篇 2025年11月11日 05:26:07
下一篇 2025年11月11日 05:27:25

相关推荐

  • 动态生成HTML表格:优化JavaScript数据展示与导出

    本文旨在解决JavaScript中动态生成HTML表格时遇到的代码冗余和样式控制难题。通过引入数据驱动的编程思想,我们将数据与视图逻辑分离,首先将表格内容组织为JavaScript对象数组,然后利用一个通用的函数将这些结构化数据渲染为可读性强、易于维护且支持灵活样式的HTML表格字符串。这种方法不仅…

    2025年12月23日
    000
  • HTML5性能优化怎么实现_HTML5新特性在性能优化方面的应用方法

    HTML5通过语义化标签、Web Storage、Canvas/SVG、Service Worker和原生媒体支持等技术提升性能:1. 语义化标签优化渲染效率;2. Web Storage减少网络请求;3. Canvas/SVG降低资源加载量;4. Service Worker实现离线缓存;5. 原…

    2025年12月23日
    000
  • 利用UTM参数与GTM优化链接点击来源追踪

    本文详细阐述了如何通过UTM参数精准追踪营销链接的点击来源,并深入探讨了Google Tag Manager (GTM) 在此过程中的高级应用。文章首先介绍了UTM参数的构成、生成方法及其在Google Analytics中的自动解析机制,强调其在识别流量来源方面的核心作用。随后,探讨了GTM如何通…

    2025年12月23日
    000
  • 如何通过HTML在线展示数据_HTML在线数据展示实现与可视化方案

    网页展示数据需结合HTML、CSS与JavaScript,首选table展示结构化数据,配合Chart.js等库实现可视化图表,通过fetch加载远程JSON动态渲染内容,并利用响应式设计与交互优化提升用户体验。 在网页中展示数据,核心是将结构化信息清晰、直观地呈现给用户。HTML本身是内容载体,结…

    2025年12月23日
    000
  • html在线几何图形绘制 html在线SVG应用实战教程

    使用HTML与SVG结合可高效绘制几何图形。SVG基于XML,支持圆形、矩形、多边形、路径等,在任意分辨率下清晰。1. 基础元素包括rect、circle、ellipse、line、polygon、polyline和path。2. 实战示例:用polygon绘制三角形,path绘制五角星和弧线仪表盘…

    2025年12月23日
    000
  • 单页应用(SPA)中特定分类数据的API直链访问与性能考量

    针对单页应用(SPA),本文探讨了如何通过URL直接访问特定分类数据,而非依赖客户端UI交互。文章揭示了SPA在初始加载时已获取所有数据,因此客户端分类选择对数据加载量无影响。核心策略是绕过前端界面,直接调用后端API获取所需数据,从而实现高效且精准的数据访问,并提供了具体API示例。 理解单页应用…

    2025年12月23日
    100
  • jQuery循环中动态表格数据访问与比较教程

    本文详细介绍了在jQuery循环中处理动态生成表格数据时常见的挑战与解决方案。我们将探讨如何正确使用.find()代替.children()来定位嵌套元素,解决.data()方法返回数字类型导致比较错误的问题,并提供一个基于事件监听的实用示例,以实现对用户修改数据的实时检测和保存。 动态表格数据处理…

    2025年12月22日
    000
  • 揭秘canvas技术在数据可视化中的独特威力

    发现Canvas技术在数据可视化中的独特作用 随着数据时代的到来,数据可视化成为了一种重要的方式来呈现大量的数据。在数据可视化中,Canvas技术以其独特的优势在各个领域展示了巨大的潜力。本文将着重介绍Canvas技术在数据可视化中的独特作用,并给出具体的代码示例。 Canvas是HTML5中的一个…

    好文分享 2025年12月21日
    000
  • 使用localstorage存储数据所需的包有哪些?

    localstorage是HTML5中的一项重要技术,它可以用来在客户端本地存储数据。在使用localstorage存储数据之前,我们需要确保在代码中引入合适的包来操作这个功能。 在使用localstorage之前,我们需要在HTML文件中添加以下代码来引入localstorage的相关包: 在以上…

    2025年12月21日
    000
  • 无法将数据保存到localstorage,为什么?

    为什么我的数据无法保存到localstorage中? 本文将详细讨论为何在某些情况下,数据无法保存到本地存储(localstorage)中。同时,我将提供一些具体的代码示例以帮助您解决这个问题。 首先,让我们来了解一下什么是localstorage。localstorage是HTML5中引入的一种W…

    2025年12月21日
    000
  • 如何将HTML表单数据作为文本并发送到html2pdf?

    html2pdf 是一个 JavaScript 包,允许开发人员将 html 转换为 canvas、pdf、图像等。它将 html 作为参数并将其添加到 pdf 或所需文档中。此外,它还允许用户在添加 html 内容后下载该文档。 在这里,我们将访问表单并使用html2pdf npm包将其添加到pd…

    2025年12月21日
    000
  • HTML中如何用post提交数据

    http/1.1 协议规定的 http 请求方法有 options、get、head、post、put、delete、trace、connect 这几种。其中 post 一般用来向服务端提交数据,本文主要讨论 post 提交数据的几种方式 http/1.1 协议规定的 http 请求方法有 opti…

    好文分享 2025年12月21日
    000
  • html的盒模型详解

    这次给大家带来html的盒模型详解,使用html盒模型的注意事项有哪些,下面就是实战案例,一起来看一下。 1.1. 盒的内容区的尺寸— content width和content height —取决于几个因素: –生成该盒的元素是否设置了’width’或&#82…

    好文分享 2025年12月21日
    000
  • 服务端主动发送数据回客户端在H5里的实现步奏

    我们知道,在server sent event里,通过eventsource对象接收服务器发送事件的通知是有三个事件的,message, open, error这三种,今天就给大家演示一下服务端主动发送数据回客户端在h5里的实现步奏。 Server Sent Event Server Sent Ev…

    好文分享 2025年12月21日
    000
  • 可视化图表制作_javascript数据展示

    答案是使用JavaScript库如Chart.js、D3.js和ECharts可实现交互式数据可视化;其中Chart.js适合快速集成常见图表,D3.js适用于高度自定义的复杂图形,ECharts支持高级图表且中文文档完善;以Chart.js创建柱状图需引入库、添加canvas容器并初始化Chart…

    2025年12月21日
    000
  • Odoo 14 POS:深入理解订单与现金支付明细并高效调试

    本教程旨在指导odoo 14 pos开发者如何准确读取销售会话中的订单及其现金支付明细,并计算总现金支付金额。文章将详细介绍odoo前端数据模型的访问方法,并着重强调利用浏览器开发者工具和`debugger`关键字进行运行时对象结构检查与调试的最佳实践,帮助开发者高效解决数据访问中的常见问题。 Od…

    2025年12月21日
    000
  • Odoo 14 POS会话中现金支付金额的准确获取与调试指南

    针对odoo 14 pos会话中读取订单并计算现金支付总额的需求,本文将详细指导如何正确访问支付明细对象属性。重点介绍利用浏览器开发者工具设置断点进行实时调试的方法,帮助开发者深入理解数据结构,从而高效准确地实现功能,避免因属性名称不匹配而导致的常见问题。 1. 理解Odoo POS数据模型 在Od…

    2025年12月21日
    000
  • javascript_如何实现数据可视化

    JavaScript实现数据可视化需将数据转为图形,常用Chart.js、D3.js等库快速构建图表,或用Canvas/SVG原生绘图;通过fetch获取数据并动态更新视图,如Chart.js调用update()刷新,最终实现交互式可视化。 JavaScript 实现数据可视化,核心是将数据转换成图…

    2025年12月21日
    000
  • Ionic 应用在浏览器刷新时状态持久化策略

    当 ionic 应用在浏览器中被刷新时,浏览器会执行完整的页面重载,导致应用状态和数据丢失。本文旨在阐明为何无法阻止浏览器进行全面重载,并提供一个专业的解决方案:利用 capacitor preferences 等客户端存储机制来持久化关键应用状态和数据,确保在浏览器刷新后也能恢复应用到预期状态,从…

    2025年12月21日
    100
  • Node.js中高效移除文本文件中的制表符( )

    本文详细探讨了在node.js环境中从文本文件移除制表符(“)的有效方法。文章首先解释了为何常见的字符串替换尝试可能失败,强调了“和`t`在正则表达式中的区别。随后,提供了两种实用解决方案:直接使用正确正则表达式进行替换,以及通过按行处理数据实现更精细的控制。文章还包含了示例…

    2025年12月21日
    000

发表回复

登录后才能评论
关注微信