纽瑟姆: 希望如此。我认为这是有计算意识的神经科学家争论的最深层次的智力问题之一，那就是人工智能在多大程度上，会与 NI （自然智能）汇聚并真正成为有用的智能？它们只是夜间通过的船只，还是两个平行的宇宙？神经元完全非线性，GPU「疯狂燃烧」太浪费一个单独的神经元(我们的大脑包含大约1000亿个神经元)是极其复杂的: 难以置信的复杂形状和难以置信的复杂生物物理学，而且我们大脑中不同类型的神经元具有不同的物理类型。它们完全是非线性的，它们通过这些突触连接在一起，形成电路，理解和绘制这些电路，是神经科学的重大问题。
但是有些东西应该让我们停下来，有些物质在大脑中局部释放，叫做神经肽，它们扩散到大脑周围的数千个突触，它们可以完全改变这个回路。你把一组以特定方式连接起来的神经元，喷射到这个神经肽上，它们瞬时就形成一个不同的回路。李飞飞：是的，那很有趣。在我们的深度学习架构中，我们根本没有那种计算机制。纽瑟姆: 大脑结构的另一个特征，几乎都是循环结构的。大脑 a 区向 b 区投影，你可以把它想象成深层卷积网络的一个层到另一个层。但是不可避免的，b 回到了 a。如果你不了解这两个区域的活动，以及非线性的行为，就不能理解这两个区域的活动，这些动态的相互作用产生了一个同时涉及多个层的状态。许多人认为，理解那些分布在网络中的动态状态将是理解大量脑计算的秘密。我知道现在这些深度卷积网络中的一些已经开始内置循环了，我不知道这个领域的确切位置，但肯定是个不错的想法。动力学是大脑活动的另一个特征，它们反映了周围世界的动态，以及输入和输出的动态。为了让肌肉从一个地方移动到另一个地方，你必须有动态的输出，对吗？所以从动力学的角度来看，大脑要丰富得多。而大脑最让人惊奇的是，它只需要极低的能量来做这些计算。李飞飞：我本来想说20瓦的问题，这比我们所有的灯泡都要暗。我们听说过这些令人印象深刻的神经网络，比如 GPT-3或者神经结构搜索，都在疯狂地燃烧GPU，那你是怎么想的呢？
