如何最大限度降低危险？专家视角解读国内首例机器人伤人事件

最近两天的朋友圈可能要被这个满脸不爽的机器人刷屏了吧！在深圳高交会上，这个名为小胖的机器人突然发生故障，在没有指令的前提下自行打砸展台玻璃，导致部分展台破坏，甚至砸伤路人。小胖机器人为什么会发生这种故障，是技术不达标还是公司的炒作，还不可知。而官方回应：系工作人员操作不当误将“前进键”当成“后退键”所致。小胖机器人原为4-12岁儿童研发，主要用于教育目的，不过目前看来这款机器人具备极大的缺陷，相信家长们也不会放心将自己的“心肝”交给它。

对于具备自主功能的机器人，如何防止其误伤人类，是一个很值得讨论的话题。原中国人工智能学会常务理事何华灿教授认为，智能机器人伤害人类的根源不在机器本身，而在于设计和制造机器的人类本身。人类不正确的使用智能机器人会造成对人类本身的误伤。其中包括在设计机器人的智能程序的时候，由于人类的认识有限，开始就存在一些设计漏洞，最终导致了伤人事件的发生。专家认为，机器人发生事故的原因不外乎3种：1，硬件系统故障；2，软件系统故障；3，电磁波的干扰。

如果机器人要走进每个人的生活，研发者要从哪些方面思考，以防对人类造成伤害？我们首先一起看一下以下的安全问题：

（1）机器人如何才能在追求效率的同时避免造成连带损伤？

机器人“脑”内的算法，是目的导向的，他们存在只有一个目的，即完成系统安排的工作，而安全只是附加任务。举例来说，一台送货机器人在设定最短路径上有人挡路，是否该撞上去？你可能会认为，这一问题可以通过加入传感器和避障算法轻易解决，但考虑到真实生活场景要比实验室环境复杂的多，开发者几乎无法做到面面俱到，覆盖每种特殊情况。

（2）如何避免机器人在探索陌生环境、学习新技能时对人类造成损害？

机器人自主学习已经不是梦了，OpenAI 目前已经研制出了可以主动学习新技能的机器人。但是学习就要不断试错，在一次次失败中找到正确路径，而失败则有可能带来损害。比如无人驾驶汽车在道路上自行驾驶时就有可能没有录入一些场景从而造成车祸的发生。

（3）机器人如何能将已经习得的技能无缝迁移到新环境中，避免造成不必要的麻烦？

不管是通过预先编程，还是主动学习，机器人所具备的技能往往是固定的，凭其自身的“智力”，通常不能变通。如何让机器人具备自主微调的能力就成为了关键。比如，让打扫工厂的机器人去清理家庭或办公室，就可能带来安全隐患。

那么如何才能最大限度的降低危险，提升机器人的安全性能呢？笔者认为可以从以下方面入手：

（1）增加系统的可靠性

第一个方面就是增加产品设计里的可靠性，安全保护，比将有一些防碰撞、防伤害的传感器放到机器人里面去，要是机器人碰到人或者碰到物体的力度达到一个标准，传感器就会检测的相关信号，进而通过内部电路转化成警告信号，比如灯亮和警报声，当机器人发出警告后它就会自动停下来，进而可以提高机器人产品的可靠性，这是机器人产品设计必须要考虑的一个问题。

（2）工作环境的软保护

所谓的工作环境软保护，就是我们有一种隔离，比如说红外线或者一种传感的技术，凡是人超越了这个安全规范，它就会自动报警，整个机器人的一切行动都自动停下来，这是一种软保护。

（3）工作区域硬保护

工作区域硬保护就是在机器人工作区域是不允许人进去的，有个安全围栏。假如人要进去调试或者说要进去维修或者做其他人跟机联合一个工作区域的时候，它必须要撤掉一个安全开关，就是其他的都不能动，这样的话，才对进去的人有保护，就是硬保护。

（4）对操作人员进行培训

对操作人员进行培训是保证机器人不伤害人类的一项重要举措，有时机器人伤人根本原因是操作人员本身的操作错误，比如这个小胖机器人，当前进键和后退键选错后就造成了如此大的伤害，因此对操作人员进行培训是一项重要举措。

如果有这几种措施进行联合保护，我们就可以最大限度的限制人身安全事故的发生。

小编之语：随着2016年机器人大热，全国各种各样的机器人企业如雨后春笋般涌现，有些企业为了博眼球、争热度、抢市场，将最大的精力放在了给机器人中添加各种功能，而忽略机器人的基础理论的研究，甚至对机器人的可靠性研究都很少。小编认为在增加功能的同时安全性也是很重要的。

机器人大讲堂往期讲座视频回顾：

001讲王田苗教授～《国内外机器人发展热点与趋势》点击阅读原文，即可观看完整版视频