兵棋推演展示AI如何改变未来战争!兰德发布《思维机器时代的威慑》报告
2020年1月,兰德发布了题为《Deterrence in the Age of Thinking Machines》(思维机器时代的威慑)的研究报告,分析了会思考的机器人(Thinking Machine,人工智能)如何改变未来战争。在报告中,研究人员讨论了威慑的关键概念,给出了人工智能和自主系统的简要背景,确定了随着人工智能系统的使用可能会对威慑和升级带来影响的关键因素,呈现了多个国家使用人工智能和先进自主系统进行对抗的未来战争场景,给出了这些技术对威胁和升级带来的潜在影响,并确定了未来的研究领域。
该报告研究并尝试回答以下4个问题:
将具有思维的机器人和自主系统加入到各国表明使用武力及其潜在后果的实践中,会产生什么影响?
当能够以机器的速度做出决策,同时由不危及使用国公民生命的力量执行时(比如机器人),威慑和升级会发生什么情况?
这些能力的增强会怎么样对威慑带来影响?
有哪些潜在的误判和意外的后果?
文章仅供参考,观点不代表本机构立场。
兰德发布《思维机器时代的威慑》报告
作者:YUNA HUH WONG, JOHN M. YURCHAK, ROBERT W. BUTTON, AARON FRANK, BURGESS LAIRD, OSONDE A. OSOBA, RANDALL STEEB, BENJAMIN N. HARRIS, SEBASTIAN JOON BAE
发布时间:2020年 1月
编译:学术plus 张涛
来源:
https://www.rand.org/content/dam/rand/pubs/research_reports/RR2700/RR2797/RAND_RR2797.pdf
一、概 述
人工智能和自主系统有改变未来战争的巨大潜力。随着战场上无人系统的使用、商业级AI取得的突破、许多国家将AI和自主系统应用于军事的兴趣,都使得人工智能和自主系统有望广泛应用于未来战争中。
二、人工智能与自主系统的兵棋推演
该主题研究的核心是一场兵棋推演,其中涉及美国、中国、日本、韩国和朝鲜等国家。在未来这些国家将人工智能和自主系统应用于战争场景中,中国是一方,而美、日、韩是与中国对抗的另一方联盟。该战争场景中,中国是全球大国,美国、日本和韩国仍然是与中国对抗的盟友。推演的目的不是为测试或发现使用这些技术的玩家如何与其他人抗衡,而是在操作框架中进行有条理的对话,讨论人工智能和自主技术如何随着事件的发展影响局势升级和威慑方式。
以下为推演假设(推演过程中,中国用“Z国”代替):
三、兵棋推演的相关发现
四、对威慑的影响
人类与智能代理的不同组合可能会影响两者之间的升级动态。在兵棋推演中,美国和日本军队走上了一条主要使用无人系统和有人控制的道路,而中国军队则使用由机器控制的载人系统。这就形成了一种动态,其中美国和日本由于不愿意杀害中国人曾多次尝试解除危机,但中方似乎并不觉得有必要解除危机。
机器在理解人类威慑性方面可能会更差。人工智能正被积极用于创造战术和作战优势,这可能会误解对手尝试解除危机的信号,和避免进一步升级或主动解除危机的情况。
传统的威慑主要是关于人类试图了解其他人类,而在这个智能的新时代,威慑涉及到许多其他途径的理解。人类不仅必须了解敌手,还必须充分了解自己的(智能)机器和敌手的(智能)机器。同时,机器还必须准确地理解友军、敌军和敌军的(智能)机器。这些其他途径的理解可能会带来误解和误判的可能性。随着时间的推移,持续的现代化意味着国家使用的系统将可能是新系统和遗留系统的混合体,这可能会使人们难以理解军队中全部的人机交互。
在过去,自动系统经常会有无意中与友军或平民目标交战的案例,这可能会带来一些更先进系统的技术事故或故障的质疑。
五、未来研究方向
进一步研究威慑理论和其他框架,明确考虑人工智能和自主系统的潜在影响。为了成功管理预期的威慑活动和避免非预期的升级活动,非常有必要进行一些其他的思考。阻止人工智能和自主系统向军事领域应用的扩展是不可能的,所以在执行防御政策时,需要将其影响纳入考虑范围。在核威慑方面已经做了很多工作,因此研究人员建议:
(全文完)