无人机首次自主杀人？机器杀人的“潘多拉魔盒”打开？

科技日报记者 张强

利比亚战场上，一架土耳其生产的“卡古-2”自杀式攻击无人机在未接到任何指令的情况下，袭击了一名正在撤退的士兵。

这一令人震惊的事件发生于2020年3月。几天来，披露这起事件的一份联合国安理会报告，被国内外媒体热炒。

“卡古-2”是一款多旋翼无人机，重约6.8千克，续航时间约30分钟，具备人脸识别功能，可被编程攻击目标，无需操作人员的指令。也就是说，“卡古-2”无人机能在无人控制的情况下搜索并消除目标。这被认为是人工智能军事化的一个典型应用。

很多媒体称，这或许是历史上首次军用无人机自主对人类发起袭击的事件！

对此，资深军事评论员刘晓非表达了不同看法。他对科技日报记者表示，“这不一定是历史上无人机首次自主攻击人类。此前，以色列方面也声称自己的无人机执行的是第一次自主杀人的任务。其实，问题的关键不在于谁是第一次，而在于谁的指挥官敢于把自主攻击人类的权限下放到无人机层面。”

美国军事思想家辛格曾指出，5000年来战争一直是人类的独角戏，而现在，这个局面已经结束了。

当前，无人化平台已经小规模成建制地用于实战，多国已将人工智能作为军事研究的重点领域。人工智能算法让军事装备能够像人那样感知、推理、决策，从而具有自主能力，提高了对复杂战场环境的适应性，同时还能推动指挥决策更高效。

国防科技大学某教研室副主任贾珍珍博士进一步科普道，“毫无疑问，具有人工智能的无人装备将改变未来战争形态，促进军事理论、体制编制、战法战术等多方面的变革，使未来战争呈现出智能化的特点。”

不过，刘晓非指出，“不管以色列还是土耳其，他们的无人机所采用的技术都不是强人工智能，本质上还是对目标图像进行了预存比对和判断。原来需要人类进行判读和操作的部分，现在交给了无人机。”

刘晓非判断，“无人机信息处理的回路大幅度缩短了，代价是误伤的可能性更高。”

当然，不管是不是误伤，人类对人工智能军事化的担忧近年来有增无减。此次事件遭到热炒就是明证。

2017年的人工智能国际会议上，特斯拉首席执行官马斯克、苹果联合创始人沃兹、研发“阿尔法围棋”的深度思维公司哈萨比斯等人签署公开信，呼吁联合国应像禁止生化武器一样，禁止在战争中使用致命的自主武器和“杀手机器人”。

著名物理学家霍金生前也曾指出，他不认为发展人工智能一定能让人类朝好的方向发展，脱离人类控制之下的机器很难被阻止住。

“虽然人工智能技术对于保障国家安全具有巨大潜力，但在研究过程中，人工智能技术表现出了危险性与未知性，比如无人驾驶汽车的伤人事故，以及此次无人机自主攻击事件。由于人工智能技术的发展局限，无人装备可能将在复杂环境或执行程序复杂的情况中出现失控现象。”贾珍珍说。

一位军事专家如此写道——机器是冰冷的，军事智能化程度再高，自主指挥、自主控制能力再强，也无法与人相比。当机器人敌友不分杀戮成瘾，当机器人中了病毒自我残杀，当机器人连普通百姓也不放过，当机器人不听后方指令无法终止战争，这样的军事智能化将是全球之灾、人类之祸。

然而，贾珍珍还是对其在军事上的应用表达了谨慎乐观。

她认为，“这样的思潮在人类历史上的技术革命时期都曾出现过，比如工业革命时期的卢徳运动。这一现象的本质原因在于技术异化对人类的威胁。目前来看，人工智能在军事领域的应用潮流势不可挡，在可预见的时期内，人工智能将在指挥控制、情报侦察、后勤保障等领域发挥重要作用。”

“要想尽可能降低人工智能的负面影响，首先要坚持人机结合、以人为主的原则，人类应当保证对军事机器人的控制权，制定应对意外事件的应急机制，建立防范机器人失控的后台程序。另外，应当加强人工智能的技术预测与评估，在充分试验与分析的基础上逐步推进人工智能技术的军事应用。”贾珍珍说。

刘晓非也表示，“如果强人工智能逐渐成功并且成熟，那么无人机或者其他无人平台攻击人类的灵活性、自主性将会更高。它们将更多通过对方的行为来判断敌我，而不是简单地通过图像识别。到了那个阶段，人类最担心的情况才有可能发生。”

编辑：张爽

审核：王小龙