本文摘自《人工智能算法、作战环境及未来趋势预判》｜《远望译品》
人工智能不仅在知识域中运行，而且在不同级别上与其他理性个体及其问题空间相互作用。人们对人工智能的期望过高，就是因为没有考虑到这些级别的交互。Allenby和Sarewitz的技术层次分类法提供了一种理解社会与技术之间递归相互作用的方法。技术的功能及其与环境的相互关系可分为三个级别。这些级别提供了一个可量化的模型来对AI与其他系统和问题的功能交互进行衡量。图5是不同级别的技术及其与其他系统的功能交互的图形表示。
级别1是根据预期因果关系得出的“技术本身在使用中的即时有效性”。级别1交互的一个实际案例是防空目标获取系统，它使用了为模式识别而设计的人工智能算法。该算法从大量数据集中学习目标图像和非目标图像的特征。级别1是目标捕获系统，算法和其它机电系统按设计功能运行，并在其复合问题空间内正确识别目标。级别1是目标获取系统算法和其他机电系统的集合，按所设计的功能在其复合问题空间内正确识别目标。级别2是指技术成为更大的网络系统的一部分。更大的系统不仅包括硬件/软件系统，还包括用户和维护人员的支持基础设施。例如，当目标捕获系统成为更大更复杂的综合防空系统(IADS)的一部分时，就是级别2。级别2有一个更复杂的问题空间，它包括级别1的问题空间。级别2的功能是更大系统的新兴属性。级别2的功能之所以具有新兴属性，是因为级别2的整体性能完全无法从级别1的行为得到预测。AI在目标获取方面的表现如何并不是级别2 IADSS总体性能的指标。级别1确实对级别2的整体表现有所贡献，但是不能仅仅根据级别1来预测级别2的性能。级别3是一个“地球系统，即一个复杂的、不断变化和适应的系统，人类，建筑和自然要素在其中相互作用”，其复杂性难以观察、理解和管理。在任何一门学科或知识框架中都不存在对级别3的理解。级别3发展成为一个社会结构的集合体，其中主观现实和客观现实相互递归反馈。级别3的一个例子就是当IADS成为国防系统的一部分，这时整体的部署策略以及IADS的工作目标，转变成了对抗性飞行条令、战术、技术和程序（TTP）以及反制措施。根据敌方条令或TTP的变化，引起AI新方法在瞄准算法或导弹制导系统的应用，从而引发级别1技术的变化。在一个层面上的创新将产生连锁效应，促使另一个层面上产生变革。如果不消耗大量能源，由其他级别的技术进步引起的系统变化是不可逆的。跨级别的交互所导致的的变化很难预测，使得人工智能集成的预测变得虚假。从其他层面推断AI能力已经成熟，可以提高对地球系统的期望。人工智能目前的突破是30年前的研究成果。第一个神经网络出现在20世纪50年代，称为感知器。1969年，Minsky证明了感知器可以计算简单的函数。1986年，认知心理学家Geoffrey Hinton指出，深层神经网络是可训练的。直到2012年，能够训练深度神经网络进行模式识别的计算能力才出现。模式识别引发了人们对未来通用人工智能潜力的兴趣。但是，深度学习是“无思想的模糊模式识别器……它们充其量只能代表有限的一种智力层级，很容易被愚弄”。模式识别非常有用，深度学习为特殊用途算法提供了强大的工具。然而，深度学习并不是人类水平的智能，因为“真正的智能不会因为你稍微改变问题而宕机”。超过2000年的哲学传统已经预见到了一些与人类智力相抗衡的人为形式的AI的到来。对于真实AGI的历史信念和渴望很容易使得AI技术在炒作周期中被高估。人工智能功能框架（AIFF）提供了一种划分人类智能和算法智能之间可替代边界的方法。AIFF是算法与OE关系的图形化表示。为了让AI在OE中运行，它需要将任务环境表征为形式化的问题空间。一个AI问题空间的特征将在Cynefin象限的某个点：简单、繁杂、复杂或混乱。使用Cynefin象限问题空间的人工智能将起到第1级（专门设计的系统），第2级（系统的网络化系统）和第3级（地球系统）技术的作用。例如，一辆普通的汽车都有一个控制输送到发动机的燃油量的算法。该算法接收来自汽车的传感器的输入，如油门踏板、空气流量计、凸轮位置等。传感器数据允许算法量化OE，并以适当的燃油量作出响应。汽车燃料输送算法是级别1人工智能的一个例子，在有序知识域中有一个问题空间，如图6所示。随着算法的运行，作为一个更大的系统体系的一部分，也就是级别2，有了人类驾驶员和道路网络，任务环境变得越来越复杂，但人工智能问题空间仍然在有序的知识域中。当任务环境发生变化时，燃油输送算法的问题空间仍然保持不变。
上述算法忽略了驾驶员从A点到B点的期望目标。驾驶员将级别2的复杂性解释为可在AI的简单问题空间中解决的任务。而级别3，地球系统，超出了算法通过其问题空间所能达到理解范围。为了使AI适应第3级的变化，它需要额外的研发和立法机构系统来创建和实施新的燃油输送要求。新要求迫使级别1的技术做出更改。在级别2和级别3，AI将无序知识域中的相关元素转换为有意义的可用输入。深度学习AI的AIFF比简单的燃料供给算法更复杂。深度学习方法使用随机和启发式算法来逼近复杂和混乱的问题空间。复杂问题空间的人工智能近似允许算法保持在有序问题空间中，并管理随机性和熵。然而，混乱问题空间与概率算法不兼容，在处理不完全信息时需要具有自参考能力的智能。深度学习是一种专门为特定应用构建的算法，它依赖于可用的数据。图7是显示深度学习算法的AIFF的图形。在级别1，算法使用来自无序知识域的数据。数据是通过一个复杂的问题空间摄取的，以确定一个合适的算法响应。然后，在级别1学习到的算法响应被应用到级别2复杂任务环境中的特定应用程序。从级别2的行动中得到的反馈加强了级别1的深度学习。如果没有对级别1的反馈，为级别2的特定应用程序开发的深度学习人工智能无法更改为级别3的新应用程序。在级别1，人工智能将需要一段时间重新学习新的特定应用程序。
深度学习算法驻留在级别1的有序知识域中。人工智能有方法将难解的数据带入复杂的域，而不需要复杂问题空间。级别2的深度学习算法在级别1所建立和学习到的目标上发挥作用。目前，框架、符号和特征工程问题阻碍了深度学习在级别2的机器学习中选择合适的方法，而在级别2所遇到的问题，在级别3还会指数级增长。专家们使用在级别3运行的独立AI场景夸大了炒作周期，从而大大高估了其发展轨迹。使用“矩阵”和“Ex Machina”作为数据点的炒作周期，将AI功能置于级别3的混乱象限中。目前人工智能在有序知识域的复杂问题空间中发挥作用，使得人工智能在未来二三十年内的发展处于一个低角度的轨道上。如果期望在级别3的问题空间上就实现独立的AGI，那美国将又经历一段幻灭期，而这样就可能会让有着更现实期望的同行实现AI技术优势。
