达芬奇机器人变身‘模仿达人’,通过看视频模仿手术缝合、穿针、打结等动作

模仿是最原始的学习方法,也是实现人工智能的基石。

通过深度学习和算法,机器人也可以通过看视频学会各种各样的技能。

先看个图:

是不是觉得有点眼熟。

没错,它就是技艺高超,被大家所熟知的达芬奇机器人。

这次它又被赋予了新功能:通过观看教学视频,学会外科手术中的相关任务。比如缝合,穿针,以及打结等动作。

让达芬奇机器人变成‘模仿艺人’的关键,是一个叫做Motion2Vec的半监督式学习算法,近日由谷歌大脑,英特尔公司和加利福尼亚大学伯克利分校合作开发。

起初,加州大学伯克利分校的教授曾使用YouTube视频作为机器人学习各种动作(例如跳跃或跳舞)的指南。机器人模仿视频中的动作,成功学习了20多种杂技,比如侧空翻、单手翻、后空翻等高难度动作。

谷歌此前也有过相关研究,例如使用视频来教授四足机器人学习狗狗的灵活动作。

这些经历促成了他们彼此的合作,他们将这些知识应用于最新项目Motion2Vec中,在这个过程中,使用了实际手术过程的视频进行指导和训练。

在最近发布的论文中,研究人员概述了他们如何使用YouTube视频训练两臂的达芬奇机器人在织布机上插入针头并进行缝合。

人类在看视频的时候可以迅速理解内容,但机器人目前无法做到这一点,它们只是将其视为像素流。因此,要以机器人的方式让他们理解并学习——弄清并分析这些像素,然后将视频分割成有意义的序列。

事实上,Motion2Vec算法的开发主要基于暹罗网络和递归神经网络。

暹罗网络(Siamesenetwork)就是“连体的神经网络”,神经网络的“连体”是通过共享权值来实现的。它的主要功能是衡量两个物体的相似度。比如,看看某两个人长得像不像。

这样,研究人员就可以将视频中相同动作段的图像放到一起,并给它们做一个标记,比如‘针头插入’,或‘瞄准位置’等,从而对视频中的图像进行分割和分类。

然后,研究人员使用递归神经网络来找到那些没有被标记的图像,这些图像会反馈到暹罗网络中以改善动作片段的比对。

对于缝合任务,研究团队仅需要78个教学医学视频即可训练其AI引擎执行该过程,成功率为85%。

这似乎意味着机器人可以在外科手术中承担一些更基本,重复性的任务,但它们目前还无法完全代替医生来做手术。

加州大学伯克利分校实验室的负责人KenGoldberg解释说“我们想要看到的是,机器人在做基本缝合任务,而外科医生能够监视手术过程,比如像机器人表明他们想要在哪一排进行缝合,或传达出希望进行六次覆膜缝合的想法。” “这样,机器人能代替外科医生做最基本的任务,让医生们得到更多的休息,并能够专注于手术中更复杂或更细微的部分。”

论文直通车

论文题目:

Motion2Vec:Semi-Supervised Representation Learning from Surgical Videos

论文链接:

http://www.ajaytanwani.com/docs/Tanwani_Motion2Vec_arxiv_2020.pdf

项目来源:

https://sites.google.com/view/motion2vec

END

(0)

相关推荐