机器人敏捷跟踪操作者动作(计时器读数可以证明:这不是快放!)
机器人拳击赛:玩家控制机器人 VS AI控制机器人
机器人拳击赛:玩家控制机器人 VS AI控制机器人(在B站搜QIBBOT,可以看到高清晰原声视频)
经过四年的努力,我们研制了世界上最快的遥操作机器人——大型拳击机器人QIBBOT。近期,QIBBOT已经被国外多个新闻媒体报道,例如:
(1) 6月21日,New Scientist 《新科学家》, 世界排名第一的科技新闻杂志,新闻标题:Ultra-fast boxing robots could be used for real-life fighting game (中译文:超快拳击机器人可用于现实的格斗游戏)
新闻网址: https://www.newscientist.com/article/2379265-ultra-fast-boxing-robots-could-be-used-for-real-life-fighting-game/
(2) 6月26日,IEEE Spectrum - Robotics, 这是机器人技术领域最权威的新闻网站,新闻标题:Humans and AI Fight It Out in the Ring, via Robots > QIBBOT, the fastest teleoperated robot in the world, packs a punch (中译文:人类和人工智能通过机器人在擂台上一决高下 > QIBBOT,世界上最快的遥操作机器人,重拳出击)
新闻网址: https://spectrum.ieee.org/fighting-robots
以下是这些新闻网页截图:
New Scientist (新科学家)6月21日新闻
IEEE Spectrum - Robotics 6月26日新闻, https://spectrum.ieee.org/fighting-robots
由于这些新闻的缘故,QIBBOT机器人在国外受到广泛的关注。
6月16日QIBBOT的视频在国内的哔哩哔哩网站发布(在B站搜索QIBBOT,可看到视频),在一周内获得40万观看,2万点赞,1千多评论。
在这里,我们回顾QIBBOT机器人项目的四年历程。
首先,需要说明的是:虽然这个项目使用的是我们自己的资金(大约40万元),但它并不是业余DIY作品。我们的团队由专业人员组成。其中,负责提供技术指导的专家有27年机器人研发经验(博士毕业于上海交通大学自动化系),曾经主持英国EPSRC(工程与自然科学基金会)的两个机器人研究项目(历时5年),参与欧盟的两个机器人重大项目(历时7年),在机器人领域顶级期刊(IJRR,IEEE TRO)与会议(IROS,ICRA)发表7篇论文,研发过十多个不同的机器人系统(快速行走机器人,遥操作手术机器人,大型四足机器人,等等),尤其对于机器人的动力学与运动控制问题,有长期的技术积累,以及深刻的理解与直觉。这些是项目成功的关键,所谓 “博观而约取,厚积而薄发”。
QIBBOT机器人是一个复杂系统,包括多个子系统:机械,硬件,软件,VR,通讯,控制以及AI算法。很难在有限的篇幅描述全部细节。以下,将着重介绍主要的技术挑战以及我们如何解决它。
一. 缘起:机器人与科幻
当前,许多机器人的应用目标都是为了代替人类从事那些枯燥繁重或者危险的工作,例如图1中的工业机器人与消防机器人。它们在功能和设计方面,体现更多的是“机器”属性。这样的机器人公司,在国内外已经有很多。
图1. 工业机器人与消防机器人
另一方面,“机器人”这个概念从它诞生的那一天起,就与科幻文化紧密相连。几乎每一部科幻影片中都会有机器人。电脑游戏中也有各种各样的机器人形象(见图2)。
图2. 70年代科幻片《星球大战》中的机器人,以及今天电脑游戏中的机器人形象
通常,大家习惯于认为:科幻就是科幻,怎么能当真呢。然而,在科技大爆炸的时代,昨天的科幻正在成为今天的现实。
有少数公司已经开发了科幻般的机器人(如图3)。它们的共同特点是:(1)科幻特色的应用场景;(2)非常酷的功能;(3)领先的技术突破。例如:美国著名的波士顿动力学公司的机器人Atlas(世界上最敏捷的人形机器人)。以及最近英国的Ameca机器人(世界上第一个实现了逼真表情的机器人)。这些机器人的视频在媒体和视频网站一经发布,立即广泛传播,在全世界受到关注。然而,无一例外,它们全都是国外公司的原创。
图3. 美国的Atlas机器人,英国的Ameca机器人,以及加拿大某公司的大型四足机器人
图4. 科幻片《铁甲钢拳》片段
我们一直有一个梦想,希望能够实现:技术原创,功能很酷,而且有应用前景的科幻般机器人。受到科幻影片《铁甲钢拳》的启发(见图4),我们在2019年初开始了QIBBOT机器人项目:大型拳击机器人。作为一个国内的初创小公司,这样的目标似乎有点儿疯狂并且与众不同。但这是经过深思熟虑之后做出的决定:
1. 在中国以外的许多国家,拳击是非常流行的一项运动。例如,美国有500多万参与者,英国有一千多家拳击俱乐部。欧洲十种最流行的体育运动中,拳击排在第五位。由于这样的群众基础,与拳击相关的娱乐产品已经有许多,比如,玩具拳击机器人,VR拳击游戏,影视作品,等等。当然,最令人神往的还是《铁甲钢拳》中那样的大型机器人拳击赛。它可以带给玩家非常刺激而且全新的游戏体验,虽然现实中还不存在这样的机器人。
2. 当前的技术还很难做出科幻片那样灵活的巨型双足拳击机器人,但是,一个简化版的大型拳击机器人是有可能实现的。只要它能体现拳击运动最有魅力的两个要素:速度与力量,就可以带给玩家非常震撼的体验。
3. 我们团队在它所涉及的技术领域(敏捷运动控制,遥操作机器人)有足够的积累,我们清楚地了解它的主要技术挑战是什么;
4. 除了要求超高的速度以外,一个简化版的拳击机器人没有其他技术难点(比如,其它遥操作机器人通常需要的力反馈与力控制),它的系统集成复杂度低于很多遥操作机器人(比如手术机器人以及下面图5力控制的遥操作机械臂),因此可以实现较高的可靠性,更容易产品化;
然而,“理想很丰满,现实很骨感”:我们是一个很小的三人团队(只有一人在项目中全职工作),有限的资金(没有外部投资)。在项目进行的四年中,遇到了许多始料未及的困难和问题。
二. 挑战:速度与延迟
2.1 遥操作机器人
在机器人技术领域,科幻片中的这个拳击机器人(见图4)属于遥操作机器人这个类别:通过触觉,力觉,体感或运动捕捉系统,操作者远程控制机器人的运动,从而操作机器人完成各种工作。遥操作机器人是当今机器人领域的一个研究热点。许多公司与科研机构(包括一些著名公司与高校实验室:日本丰田公司,德国库卡机器人公司,美国麻省理工学院,等等)已经开发了各具特色的遥操作机器人,针对各种不同的应用场景。在YouTube可以看到数百个形态各异的遥操作机器人的视频。但是,由于技术成熟度的原因或者可靠性与复杂性问题,它们绝大多数还处于原型实验阶段,不是产品。当前,最成功的遥操作机器人产品,是业界领先的美国SARCOS公司研发的重型遥操作机械臂(见图5)。
图5. 美国SARCOS公司的重型遥操作机械臂
一方面,在许多遥操作任务场景中,速度并不是最重要的指标(例如,在遥操作手术机器人的场景,精度,力控制和安全性才是最关键的)。另一方面,快速遥操作对于机器人动力学与控制系统的设计有着更严苛的要求。因此,目前绝大多数(超过95%)遥操作机器人都是针对中低速的任务场景设计的。在这些机器人系统中,一旦操作者动作稍快,机器人的响应就会有明显的延迟。绝大多数遥操作机器人的响应延迟都是大于100毫秒。图6与图7中可以清楚地看到两个知名遥操作机器人系统的响应延迟(它们分别是120毫秒与100毫秒)。
图6. 英国Shadow机器人公司的遥操作机器人(响应延迟约120毫秒)
图7. 美国麻省理工学院Kim教授实验室的Hermes机器人(响应延迟约100毫秒)
2.2 快速遥操作机器人的技术挑战:响应延迟
快速遥操作机器人的主要技术挑战并不是机器人本身的速度,而是它相对于操作者动作的响应延迟。在有些场景(例如,体育比赛,打击犯罪,军事行动,等等),机器人响应延迟是第一位的要求,即使很小的延迟也会产生严重的后果。而且,已有研究表明,操作者对于机器人的响应延迟是很敏感的。10毫秒的延迟,极少数人能够感觉到。20毫秒以上的延迟,几乎所有人都能感觉到。在VR游戏以及遥操作的场景,玩家和操作者的沉浸感是最重要的。如果玩家或操作者能够感觉到延迟,就会妨碍他的沉浸感,进而降低玩家或操作者的游戏体验或操作感。
到这里,情况已经明了,为了实现机器人拳击赛的场景,我们需要的是满足下面这三个条件的遥操作机器人:
1. 它必须是一个大型机器人。一个小体型机器人无法产生科幻片中机器人那样的震撼效果。
2. 它必须具备超低延迟(10毫秒左右),否则将妨碍游戏体验。
3. 它必须具备超高速度,否则机器人跟不上玩家的出拳速度,游戏就变得毫无趣味了。普通人的出拳最快速度可以达到每秒5次。所以,机器人也必须达到这个速度。
那么,让我们看一下,这样的机器人今天是否已经存在。
目前,全世界只有少数几个机器人实现了超低延迟的快速遥操作(请见图8-10)。
图8. 麻省理工Ramos博士研制的Little Hermes机器人。
这是一个小型双足机器人,腿长73厘米。机器人的身体由一个吊杆支撑,限制了机器人的运动只能在2D平面内左右移动。
图9. 美国迪士尼公司,卡耐基梅隆大学以及西北大学共同研发的Jimmy机器人
图10. 麻省理工学院Ben Katz研制的双向遥操作系统
在上述视频中可以看到,这些快速遥操作机器人有三个共同的特点:
(1) 它们都是小体型的轻型机器人。
(2) 尽管它们都实现了超低的延迟(10毫秒左右)与敏捷的运动,但是它们还没有达到拳击运动所要求的速度标准。相对于拳击的速度,它们的速度显然还不够快。对比它们(图8-10)与篇首的第一个QIBBOT动图,也可以清楚地看到非常明显的速度差距。
(3) 与VR相比,它们的遥操作装置十分复杂(尽管这些装置本身的延迟比VR设备更小),而且过多的限制操作者的运动范围,尤其是,操作者的身体只能在一个很小的范围运动,因为机器人基本是固定在原地的(见图8-10)。所以,这些装置不适合拳击游戏机器人的场景。显然,对于玩家与拳击机器人,VR手柄是更好的选择。
还有一点,需要特别说明:图9与图10中的两个机器人属于主从遥操作机器人这一类:主机器人与从机器人拥有基本相同的机械结构与动力学,因此,它们之间的运动可以直接相互映射。在这样的主从机器人系统中,快速遥操作的技术难度低于其它类型的不使用主从机器人的遥操作机器人系统(例如,图8中的Little Hermes机器人,以及我们的QIBBOT)。所以,普遍认为,图8中的系统是目前最先进的快速遥操作机器人。这是Ramos博士4年前在麻省理工Kim教授实验室的博士项目。Kim教授实验室多年专注于研发具有极强运动能力的机器人。广为人知的猎豹机器狗就是他们的原创。十多年前,他们曾研制了当时世界上最快的四足机器人。
综上所述,目前已经存在的快速遥操作机器人技术虽然实现了极低的延迟,但是在体型,速度和操作装置几个方面还不能达到拳击机器人的要求。
VR设备是专门为游戏设计的。因为QIBBOT是一个拳击游戏机器人,所以,VR设备自然成为它最方便的操作装置。
我们的结论是:为了实现QIBBOT项目的目标,我们必须研发一个新的大型遥操作机器人系统。为了实现令玩家满意的游戏体验,这个系统应该使用VR设备作为遥操作装置,而且必须具备极低的响应延迟(10毫秒左右),以及超过今天所有遥操作机器人的超快速度。
于是,现在面临的问题就成为:遥操作机器人的延迟来自哪里?怎样才能实现一个由VR设备控制的大型遥操作机器人的超低延迟(10毫秒左右)与超快速度?
三. 创新:结构与控制
遥操作机器人系统的延迟来自于它的各个环节:通讯,遥操作装置,机械(驱动与传动),控制,实时计算。
在操作者与机器人在同一现场的情况下(例如,QIBBOT以及上述图8-10的机器人),采用高速网络可以将通讯的延迟降低到远小于1毫秒。因此,通讯延迟可以忽略。
QIBBOT的遥操作装置是OCULUS的VR设备Rift S。它自身的延迟是4毫秒。这个延迟是厂家设备内在的,作为用户,我们无法减小它。
通过优化程序代码,实时计算带来的延迟可以减小到1毫秒。
在QIBBOT系统中,大部分的延迟来自机械与控制系统。QIBBOT机器人的主要创新也在这两方面:
(1) 机械结构设计
机械的延迟是物理定律造成的,无法消除,但是可以通过巧妙的设计尽可能降低它。我们建立了准确的机器人运动学与动力学模型。利用模型,我们优化了多个设计参数,并且为QIBBOT设计了新的传动系统,从而降低了机械系统的延迟。
(2) 控制算法设计
在QIBBOT的控制算法中,除了常规的运动控制以外,我们专门设计了一个新的预测控制器。它可以实时预测系统延迟,并提前响应,从而抵消了一部分由机械系统和VR设备带来的延迟。
在下面的试验结果可以看到,通过这一系列的方法,QIBBOT的响应延迟降低到了12毫秒。同时,它的速度比任何其它遥操作机器人都更快。
四. 实验:意料之中与意料之外
2019年至2022年,我们用三年时间研制了第一代QIBBOT(图11)。它的速度与延迟没有达到预期的目标。通过分析试验数据,我们找到了新的主意,只用一年(2022-2023)完成了第二代QIBBOT的研发(图12)。它高190cm,重140Kg,臂长150cm(是操作者臂长的两倍)。它的身高与体重都比第一代QIBBOT略小。第二代QIBBOT基本实现了设计目标。
图11. QIBBOT第一代原型(2019-2022)
图12. 第二代QIBBOT(2022-2023)(作为对比,操作者身高180cm)
延迟
从图13的1/10速度慢动作镜头,可以看到,QIBBOT的延迟极低(只有12毫秒),肉眼几乎看不到。
图13. QIBBOT的延迟测试
速度
在遥操作的模式下,QIBBOT的速度受限于操作者,因为机器人只能跟踪操作者的动作,而不能比他更快。其实,在AI模式下,机器人自己的速度可以更快(见图14),每次出拳只需要0.1秒。
图14. QIBBOT机器人速度测试(上)以及1/10速度慢动作(下)
玩家的游戏体验
由于QIBBOT系统的延迟已经低到几乎无法被人感觉到,只需要一分钟的训练,玩家就会产生沉浸感(仿佛机器人成为自己身体的延伸)。VR手柄控制的大型机器人的快速运动与对抗,带给玩家的感觉是非常震撼的(见图),还有一丝恐惧感。机器人出拳时的虎虎生风,击中时的剧烈碰撞,重达140公斤的机器人身体快速运动时产生的轰隆声和地板的颤动,这些只有在现场才会感觉到。仅仅观看视频或动图,是无法想象这些震撼体验的。这样的一种全新而且独特的游戏体验,VR电脑游戏或小型玩具机器人是无法产生的。
图15. 大型机器人带给玩家震撼的感觉
机器人是有生命的吗?
虽然QIBBOT的每一个零件都是我们设计的,每一根线缆都是我们接好的,但是,当它真的动起来的时候,似乎变成了一个有生命,有自己小脾气的个体(尤其在AI模式下)。它的许多行为变得不可预料。有时候,我们因为它的一个错误结果焦头烂额,近乎绝望了,它突然会变得很乖,超过我们预期的表现,带给我们一份惊喜。也有时候,试验进行的非常顺利,我们以为驶上了快车道,正在暗自高兴的时候,突然前方出现一个断崖,又一次无路可走了。
这样一个复杂的动力学系统,实验中难免会出现无法预料的失败结果(例如,图16)。失败的实验并非毫无意义,它告诉我们问题所在。经过深入的分析和测试,时常会产生出乎意料的新发现和新思路。“众里寻他千百度,蓦然回首,那人却在,灯火阑珊处”
图16. 当AI出错时(AI控制的机器人击碎了对方的外壳)
关于AI
机器人的控制包括两层结构:底层是运动控制,产生机器人的各种动作:进攻,躲避,等等。AI只是工作在上层,负责产生拳击的策略,比如:什么时候进攻,以怎样的模式出拳,等等。AI还包含一个学习算法,从实验数据中学习新的策略。
技术直觉的作用
如前所述,QIBBOT是一个系统工程。在四年的研发过程中,我们遇到了数不清的大大小小的问题。其中一些关键问题的解决,依靠的是我们的指导专家对于机器人技术的直觉,而不是任何理论工具。直觉是这样一种东西:在一团迷雾中,在无数种可能中,直觉可以告诉我们那个正确的方向,剩下的只需要按部就班,一步一步走(或者一步一步爬),最终就会到达目标,解决问题。
技术直觉来自哪里呢?只能来自成年累月的实验室第一线经验的积累,似乎与发表多少论文没有关系。
“闲鱼”网站是个好地方
这个项目的成功,首先感谢卖二手货的闲鱼网站。机器人用到的一部分比较昂贵的部件(电机,VR设备)与小部件(CPU,内存,等等),都是在闲鱼买到的,价格只有新品的一半左右。如果没有闲鱼网站,我们不可能用自己有限的资金完成QIBBOT项目。
五. 计划:新的QIBBOT拳击机器人
然而,QIBBOT还是一个原型,用于测试。所以它只有一只手臂和简单的身体设计。它还有一些问题,比如:颤动,运动不够平滑,运动模式呆板。
这些问题将在新的QIBBOT第三代的产品化样机设计中得到解决(见图17)。新的QIBBOT将具有:
- 双臂以及每个手臂更多关节
- 躯*旋转与上下运动
- 更像人的运动模式
- 更好的拳击策略
- 流畅的运动
图17. 第三代QIBBOT机器人3D设计图
然而,需要指出的是:与科幻片中奔跑跳跃的人形双足机器人相比(见图4),第三代QIBBOT的运动能力仍然有巨大的差距。它只是部分的实现科幻片中的机器人拳击赛场景。
六. 未来:AI辅助的快速遥操作机器人在工业以及其它高端场景的应用
“拳击游戏机器人” 只是快速遥操作技术的一个相对简单的应用场景,因为它只需要速度。在研发以下功能之后,我们的大型快速遥操作机器人会有更广泛而且高端的应用前景。
- 具备力反馈与力控制的遥操作装置
- 机器人手臂上安装灵敏的机械手
- 机器人系统集成高速视觉
许多工厂需要在有害环境中进行搬运和装配等作业。有些场所(例如核电站与化工厂)需要搬运和处理危险品。为了保障工人安全,已经有低速的遥操作机器人应用于这些场景。显然,快速遥操作机器人可以提高生产效率。此外,各种紧急场景和危险环境需要大型遥操作机器人的快速动作,例如:消防救灾,打击犯罪,军事行动,等等。
我们已经有了一个思路,正在准备一个新的机器人项目。至于具体细节,就不在这里剧透了。然而,有一点是确定的:它的技术指标将会是世界领先的,它会比QIBBOT更酷,更聪明,更令人惊艳,而且拥有更广阔的应用前景。敬请期待。
我们的团队很小,但是“野心”很大:
在世界机器人技术领域的山巅之上,争一席之地。
“大鹏一日同风起,扶摇直上九万里”(李白)
2023年7月27日
威海奇波机器人科技有限公司 ( https://QIBBOT.com ) info@QIBBOT.com
附注:本文中动图分辨率很低,而且没有声音。高清晰的原声视频可以在B站观看(在B站搜QIBBOT,即可看到视频):
https://www.bilibili.com/video/BV16c411g77G/?share_source=copy_web&vd_source=fe4060c558b0b23ca3ae193aae07a4de
,