人工智能的神话在走入死胡同：为什么计算机不能像人类那样思考？
（本文翻译自thenextweb，原作者：Ben Dickson ）
随着人工智能的深度学习技术持续进步，一些最新的技术进步毫无疑问重新点燃了人们对类人AI的兴趣，这些类人AI指的是可以像人类一样思考和行动的机器或通用人工智能。这种AI的需求是巨大的。现在人们的想法是，通过构建更大更好的神经网络，可以创造越来越接近创建人脑的数字版本。这有可能会实现吗？
计算机科学家埃里克·拉森认为，这是一个神话，因为所有证据都表明人类和机器智能完全不同。埃里克·拉森认为，广泛宣传的对智能和推理的误解，导致人工智能研究走上限制创新和科学发现的狭窄道路。
他警告说，除非科学家、研究人员和支持他们工作的机构坚守初心，不改变方向，否则他们将注定要屈服于机器王国的爬行式进步，在那里真正的发明被边缘化，关于未来主义的言论会占据科学研究的主要，他们所鼓吹的方法却往往来自根深蒂固的利益。
从科学的角度来看，人工智能的神话假设是这样的：我们将通过在狭窄的应用程序上取得进展来实现通用人工智能 (AGI)，例如对图像进行分类、理解语音命令或玩游戏。但是，这些狭义人工智能系统背后的技术并没有解决一般智能能力必须解决的更广泛的挑战，例如进行基本对话、在家里完成简单的家务或其他需要常识的任务。
“当我们成功地应用更简单、更狭隘的智能版本时，这些智能版本受益于更快的计算机和大量数据，我们并没有取得渐进式进展，而是在摘取唾手可得的果实，这些果实在树枝的最低端。”拉森写道。人工智能神话的文化后果是忽视智能的科学奥秘，无休止地谈论深度学习和其他当代技术的持续进步。这个神话阻碍了科学家思考解决智力挑战的新方法。
“如果我们选择忽略核心谜团而不是直面它，我们就不太可能获得创新，”拉森写道。“健康的创新文化强调探索未知事物，而不是大肆宣传现有方法的扩展……关于人工智能不可避免的成功的神话往往会扼杀真正进步所必需的发明文化。”
演绎、归纳和溯因推理
来看一些简单的逻辑例子：比如你走出家门，注意到街道是湿的。你的第一个想法是一定是下雨了。但是天气晴朗，人行道干燥，因此您立即排除了下雨的可能性。当你往旁边看时，你看到一辆洒水车停在街上。您得出结论，道路是湿的，因为洒水车冲洗了它。
这是一个人的“推理”过程，从观察到结论的行为，是智能生物的基本功能。我们不断地根据我们所知道的和我们所感知的来推断事物。这大多数情况是在潜意识中发生的，在我们的思想背景中，没有重点和直接关注。“任何推理系统都必须具有一些基本的智能，因为使用已知的和观察到的来更新信念的行为不可避免地与我们所说的智能相关联，”拉森表示。
AI 研究人员的系统基于两种类型的推理机制：演绎和归纳。演绎推理使用先验知识来推理世界。这是符号人工智能的基础，也是人工智能早期几十年研究人员的主要关注点。工程师通过赋予它们一组预定义的规则和事实来创建符号系统，人工智能使用这些知识来推理它接收到的数据。
在过去十年中，归纳推理在人工智能研究人员和科技公司中越来越受到关注，它是通过经验获取知识。机器学习算法是归纳推理引擎。在相关示例上训练的 ML 模型将找到将输入映射到输出的模式。近年来，人工智能研究人员使用机器学习、大数据和高级处理器来训练超出符号系统能力的任务模型。
第三种推理，溯因推理，最早由美国科学家查尔斯·桑德斯·皮尔斯在 19 世纪提出。溯因推理是一种认知能力，可以提出直觉和假设，做出比随机刺探真相更好的猜测。
例如，街道变湿的原因可能有很多（包括一些我们以前没有直接经历过的），但溯因推理使我们能够选择最有希望的假设，快速消除错误的假设，寻找新的假设并得出可靠的结论。正如 Larson 在《人工智能的神话》中所说的那样，“我们猜测，在有效无限可能性的背景下，哪些假设看起来可能或合理。”
溯因推理是许多人所说的“常识”。它是我们查看事实或数据的概念框架，也是将其他类型的推理结合在一起的粘合剂。它使我们能够随时关注我们头脑中存在的大量信息和我们通过感官接收到的大量数据之间的相关内容。问题在于 AI 社区还没有对溯因推理给予足够的重视。
人工智能与溯因推理
在20世纪80年代和90年代，溯因推理进入人工智能的讨论，试图进行机器逻辑的新方式，但这些努力都有缺陷，后来被放弃。拉森认为“就在人工智能的逻辑方式上来说，溯因推理实际上是逻辑编程的重新表述，是演绎的一种变体。”溯因推理在 2010 年代获得了另一个机会，贝叶斯网络（又称信念网络），它是一种模拟人类推理过程中因果关系的不确定性处理模型。
但与早期的方法一样，新的方法也有一个缺陷，即没有捕捉到真正的原因。拉森说，贝叶斯和其他图形模型“是归纳的变体”。在人工智能的神话中，他将它们称为“名不副其实”。在大多数情况下，人工智能的历史一直以演绎和归纳这两种逻辑方式为主。
“当 [Alan] Newell、[Herbert] Simon、[John] McCarthy 和 [Marvin] Minsky 等早期人工智能先驱提出人工推理（人工智能的核心）的问题时，他们认为编写演绎式规则会足以产生智慧的思想和行动，”拉森说。“事实并非如此，事实上，早先在关于我们如何开展科学的讨论中就应该承认这一点。”
几十年来，研究人员试图通过为符号 AI 系统提供手动编写的规则和事实来扩展它们的能力。前提是，如果你赋予人工智能系统人类所知道的所有知识，它就能像人类一样聪明地行动。但纯粹的符号人工智能由于种种原因而失败了。符号系统无法获取和添加新知识，这使得它们变得僵化。创建符号 AI 变成了无休止的追逐，添加新的事实和规则，结果却发现系统犯了无法修复的新错误。我们的大部分知识都是隐含的，无法用规则和事实来表达，也无法提供给符号系统。
“这很奇怪，没有人真正明确地停下来说'等等，这行不通！’”拉尔森说。在过去的二十年里，随着数据和计算资源的可用性不断增加，机器学习算法——尤其是深度神经网络——已经成为人工智能社区关注的焦点。深度学习技术已经解锁了许多以前超出计算机极限的应用。它吸引了世界上一些最富有的公司的兴趣和资金。
“我认为随着万维网的出现，人工智能被经验或归纳（以数据为中心）的方法接管了，而与演绎一样的溯因，在很大程度上被遗忘了，”拉森说。
但机器学习系统也受到严重限制，包括缺乏因果关系、边缘情况处理不当以及需要太多数据。随着研究人员尝试将 ML 应用于医疗保健和金融等敏感领域，这些限制变得越来越明显和成问题。
包括强化学习先驱 Richard Sutton 在内的一些科学家认为，我们应该坚持使用可以随着数据和计算的可用性而扩展的方法，即学习和搜索。例如，随着神经网络变得越来越大并接受更多数据的训练，它们最终会克服自己的限制并带来新的突破。
Larson 认为数据驱动的 AI 的扩展“作为智能模型存在根本缺陷”。他重申，虽然搜索和学习都可以提供有用的应用，但它们基于非溯因推理。
“如果没有对推理进行思考的革命，搜索将不会扩展到常识或溯因推理，这还没有发生。与机器学习类似，学习方法的数据驱动性质本质上意味着推理必须存在于数据中，可以这么说，而人们通常执行的许多智能推理显然并非如此，”拉森说。“我们不只是回顾过去，例如在大型数据集中捕获，以找出对未来得出结论、思考或推断的内容。”
其他科学家认为，将符号系统和神经网络结合在一起的混合人工智能将更有希望解决深度学习的缺点。一个例子是 IBM Watson，它在 Jeopardy（一个益智类节目） 中击败世界冠军而出名。最近的概念验证混合模型在符号 AI 和深度学习单独表现不佳的应用中显示出令人欣慰的结果，这带来了新的希望。
拉森认为，混合系统可以填补仅机器学习或仅基于规则的方法的空白。作为自然语言处理领域的研究人员，他目前致力于将 GPT-3 等大型预训练语言模型与语义网络上的旧工作以知识图谱的形式相结合，以在搜索、问答、和其他任务。
“但演绎-归纳组合并不能让我们进行推理，因为这三种类型的推理在形式上是不同的，所以它们不会相互还原，也不能结合起来得到第三种，”他说。在人工智能的神话中，拉森将绕过溯因的尝试描述为“推理陷阱”。
“无论计算机的速度有多快，像机器学习这样的纯粹归纳启发的技术仍然不够充分，而且像 Watson 这样的混合系统也达不到一般的理解，”他写道。“在需要语言理解等世界知识的开放式场景中，溯因是核心且不可替代的。正因为如此，将演绎和归纳策略结合起来的尝试总是注定要失败……该领域需要一个基本的溯因理论。与此同时，我们陷入了陷阱。”
人工智能的商业化
人工智能社区对数据驱动方法的狭隘关注已将研究和创新集中在少数拥有大量数据存储和财力雄厚的组织中。随着深度学习成为将数据转化为有利可图的产品的有用方法，大型科技公司现在陷入了招聘 AI 人才的激烈竞争中，通过提供丰厚的薪水将研究人员从学术界带走。这种转变使非营利实验室和小公司很难参与 AI 研究。
（图片来自thenextweb，仅做资料展示，如有侵权请联系删除）
“当你将人工智能的研究和开发与非常大的数据集的所有权和控制权联系起来时，你就会为不拥有数据的初创企业设置一个进入壁垒，”拉森说，数据驱动的人工智能本质上创造了商业领域的“赢家通吃”情景。
人工智能的数据垄断反过来又阻碍了科学研究。由于大型科技公司专注于创建可以利用其庞大数据资源保持领先于竞争对手的应用程序。因此探索人工智能替代方法的动力很小。该领域的工作开始倾向于狭隘且有利可图的应用，而牺牲了可能导致新发明的努力。
“目前没有人知道在没有如此庞大的集中式数据集的情况下人工智能会是什么样子，因此对于希望通过设计不同且更强大的人工智能进行竞争的企业家来说，实际上没有什么可提供的，”拉森说。
拉森警告了当前的 AI 文化，这种文化“正在从唾手可得的果实中榨取利润，同时继续鼓吹 AI 神话。”他写道，对通用人工智能进展的幻想可能导致另一个人工智能冬天。虽然人工智能寒冬可能会削弱对深度学习和数据驱动人工智能的兴趣，但它可以为新一代思想家探索新途径开辟道路。科学家们应该超越现有的方法。
在人工智能的神话中，拉森希望非专业人士有一些工具来对抗这种不科学的必然性思维，我的同事和其他人工智能科学家可以将其视为警钟，由此开始研究非常真实的事物，该领域面临的问题。