顶尖计算机科学家辩论人工智能的下一步发展
21世纪10年代人工智能的成就是巨大的，这要归功于人工智能的一个分支——深度学习的进步。由于收集、存储和处理大量数据的能力不断增强，这项技术变得可行。今天，深度学习不仅仅是一个科学研究的主题，也是许多日常应用的关键组成部分。但是，21世纪头十年的研究和应用已经清楚地表明，在目前的状态下，对于创造人类级人工智能这一始终难以捉摸的挑战，深度学习并不是最终解决方案。
我们需要什么来把人工智能推向下一个层次？更多的数据和更大的神经网络？新的深度学习算法？深度学习以外的方法？
这是一个在人工智能社区引起热议的话题，也是网上讨论的焦点。2021年1月4日，CACM（《美国计算机协会通信》网站）报导了[1]2020年12月23日在蒙特利尔由顶尖计算机科学家参加的AI年度辩论，该辩论会以《AI debate 2: Moving AI forward: An interdisciplinary approach（AI辩论2：推动人工智能向前：跨学科方法）》为题。
之所以称为“AI辩论2”，是因为在2019年12月23日，经常批评AI深度学习形式的加里·马库斯（Gary Marcus）和深度学习的主要支持者约书亚·本吉奥（Yoshia Bengio），在蒙特利尔的米拉（Mila），就AI的最佳发展方式，包括仅靠大数据和深度学习是否足以实现通用人工智能（AGI）问题，进行过两个小时的辩论。 ZDNet网站曾经将那次辩论描述为“历史性活动”。
2020年12月23日晚的《AI辩论2》历时4个小时，加里·马库斯来了，但是，约书亚·本吉奥没有出席，当晚发表演讲的来自不同背景和学科的16位科学家有：瑞安·卡洛（Ryan Calo），崔艺珍（Yejin Choi），丹尼尔·卡尼曼（Daniel Kahneman），塞莱斯特·基德（Celeste Kidd），克里斯托夫·科赫（Christof Koch），路易斯·兰姆（LaísLamb），李飞飞（Li Fei-Fei），亚当·马布莱斯通（Adam Marblestone），玛格丽特·米切尔（Margaret Mitchell），罗伯特·奥萨苏瓦·内斯（Robert Osazuwa Ness），朱迪亚·珀尔（Judea Pearl），弗朗切斯科·罗西（Francesco Rossi），肯·斯坦利（Ken Stanley），里奇·萨顿（Rich Sutton），多丽丝·曹（Doris Tsao）和芭芭拉·特维尔斯基（Barbara Tversky）。
下面，主要依据参考资料[2]，介绍的辩论会上一些主要观点。
混合人工智能
曾经协助举办2019年辩论的Montreal.AI总裁文森特·布彻（Vincent Boucher）在开始了会议程序后，将麦克风交给加里·马库斯。
参与辩论的认知科学家加里·马库斯（Gary Marcus），重申了深度学习的一些关键缺点，包括数据要求过高、将知识转移到其他领域的能力低、不透明以及缺乏推理和知识表示。
马库斯是一位直言不讳地批评纯深度学习方法的人，他在2020年初发表了一篇论文，提出了一种将学习算法与基于规则的软件相结合的混合方法。
其他发言者还指出，混合人工智能是解决深度学习所面临挑战的可能办法。
计算机科学家路易斯·兰姆（Luis Lamb）说：“关键问题之一是确定人工智能的组成部分，以及如何使人工智能更可信、更易解释和更易解释。”。
兰姆是《Neural-symbolic Cognitive Reasoning（神经符号认知推理）》一书的合著者，他提出了一种基于逻辑形式化和机器学习的神经符号人工智能的基本方法。
兰姆说：“我们使用逻辑和知识表示来表示（它）与机器学习系统集成的推理过程，这样我们也可以利用深度学习机制有效地改造神经学习。”。
进化的启示
斯坦福大学（Stanford University）计算机科学教授、谷歌云（googlecloud）前首席人工智能科学家李飞飞（Fei-Fei Li）强调，在进化史上，视觉一直是生物智能出现的关键催化剂之一。同样，在图像分类和计算机视觉方面的工作，也帮助触发了过去十年的深度学习革命。李飞飞是ImageNet的创造者，ImageNet是一个由数百万张标记图像组成的数据集，用于训练和评估计算机视觉系统。
李飞飞谈到了她所谓用来指引AI学科的“北斗星”。 李飞飞说，在过去的五十年中，北斗星之一是物体识别的科学实现，是人类认知能力的关键功能。 物体识别带来了AI基准突破。
“作为科学家，我们扪心自问，下一颗北斗星是什么？”李飞飞说，“不止一个。进化和发展，给了我极大的启发。”
李飞飞指出，人和动物的智能是从主动感知和与世界的互动中产生的，这是目前人工智能系统严重缺乏的一个特性，而人工智能系统依赖于人类策划和标记的数据。
“在感知和驱动之间有一个基本的关键循环，驱动学习、理解、计划和推理。当我们的人工智能智能体能够被具体化，能够在探索性和开发性行为之间切换，是多模式的，多任务的，可概括的，并且经常是社会化的，这个循环就能更好地实现，”她说。
在斯坦福大学的实验室里，李飞飞目前正致力于建立互动智能体，利用感知和驱动来理解世界。
OpenAI研究员肯·斯坦利（Ken Stanley）也讨论了从进化中吸取的教训。斯坦利说：“自然界的进化特性是如此强大，而且还没有从算法上解释，因为我们无法创造出像自然界创造的那样的景象”。“这些都是我们应该继续追求和理解的属性，这些属性不仅存在于进化中，也存在于我们自身。”
强化学习
计算机科学家理查德·萨顿（Richard Sutton）指出，在很大程度上，人工智能的研究缺乏“计算理论（computational theory）”，这是神经科学家大卫·马尔（David Marr）创造的一个术语，他以研究视觉而闻名。计算理论定义了一个信息处理系统所追求的目标，以及它为什么要追求这个目标。
“在神经科学中，我们缺少对整体思维的目标和目的的高层次理解。人工智能也是如此，也许人工智能更令人惊讶。萨顿说：“在马尔看来，人工智能中几乎没有什么计算理论。萨顿补充说，教科书通常将人工智能简单地定义为“让机器做人类做的事情”，而目前人工智能领域的大多数对话，包括神经网络和符号系统之间的争论，都是“关于你如何实现某件事，好像我们已经明白我们正在努力做什么。”
“强化学习是智能的第一个计算理论，”萨顿说，他指的是人工智能的一个分支，在这个分支中，智能体被赋予环境的基本规则，并被留给发现如何最大化他们的回报。“强化学习是明确的目标，关于什么和为什么。在强化学习中，目标是最大化一个奖赏信号。为此，智能体必须计算策略、值函数和生成模型。
他补充说，该领域需要进一步发展一个公认的智能计算理论，并表示强化学习目前是一个突出的候选者，不过他承认，其他候选者也可能值得探索。
萨顿是强化学习的先驱，也是这一主题的开创性教科书的作者。他工作的人工智能实验室DeepMind对“深度强化学习”（deep reinforcement learning）投入了大量资金，这是一种将神经网络集成到基本强化学习技术中的技术变体。近年来，DeepMind已经使用深度强化学习来掌握围棋、国际象棋和星际争霸2等游戏。
虽然强化学习与人类和动物大脑中的学习机制有着惊人的相似性，但它也面临着困扰深度学习的同样挑战。强化学习模型需要大量的训练来学习最简单的东西，并且严格限制在训练的狭窄领域。目前，开发深度强化学习模型需要非常昂贵的计算资源，这使得该领域的研究仅限于财大气粗的公司，如拥有DeepMind的谷歌（Google）和OpenAI的准所有者微软（Microsoft）。
将世界知识和常识融入人工智能
计算机科学家、图灵奖得主朱迪亚·珀尔（Judea Pearl）以其在贝叶斯网络和因果推理方面的工作而闻名，他强调，人工智能系统需要世界知识和常识，才能最有效地利用所输入的数据。
珀尔说：“我认为我们应该建立一个结合了世界知识和数据的系统。”他补充说，仅仅基于积累和盲目处理大量数据的人工智能系统注定要失败。
珀尔说，知识不是从数据中产生的。相反，我们利用大脑中固有的结构与世界互动，我们用数据来审问世界，向世界学习，就像新生儿那样，他们在没有明确指示的情况下学习很多东西。
“这种结构必须在数据的外部实现。即使我们奇迹般地成功地从数据中学习到了这种结构，我们仍然需要让它以可以与人类交流的形式存在，”珀尔说。
华盛顿大学Paul G.Allen计算机科学与工程学院教授崔艺珍（Yejin Choi）也强调了常识的重要性，以及常识的缺失给当前人工智能系统带来的挑战，这些系统专注于将输入数据映射到结果。
“今天我们知道如何通过深度学习来解决数据集，而不解决基础任务，”崔艺珍说。“这是由于人工智能和人类智力，特别是对世界的认识之间的巨大差异。常识是最基本的缺失之一。”
崔艺珍还指出，推理的空间是无限的，推理本身就是一项生成性任务，与当今的深度学习算法和评价基准所适用的分类任务有很大不同。“我们从不列举太多。我们只是在飞行中进行推理，这将是一个关键的基本的，智力上的挑战，我们可以考虑向前走，”崔艺珍说。
但是我们如何在人工智能中达到常识和推理呢？崔艺珍提出了广泛的平行研究领域，包括结合符号和神经表征，将知识整合到推理中，以及构建不仅仅是分类的基准测试（benchmarks）。
“我们还不知道通往常识的全部道路，”崔艺珍说，“但有一点是肯定的，那就是我们不能仅仅通过把世界上最高的建筑建得越来越高来达到目的。因此，GPT-4、-5或-6可能不是切入口”。
结语
在辩论中，顶尖的计算机科学家提出了若干重要的研究方向。这些研究方向中无论哪一个获得突破，都将深度影响人工智能的未来。
参考资料：
VentureBeat. Leading Computer Scientists Debate the Next Steps for AI in 2021.January 4, 2021.
Elmoudjaweb. Leading computer scientists debate the next steps for AI in 2021 – Jaweb. January 2, 2021
https://elmoudjaweb.com/leading-computer-scientists-debate-the-next-steps-for-ai-in-2021-jaweb/