大脑为何如此耗能?比较计算与通信的代谢能效|哺乳动物

  原文转载自公众号“集智俱乐部”:

  导语/ Introduction

  为什么人脑仅占2%的体重,却消耗了人体20%的能量?人脑与计算机之间谁的能耗更高?大脑的代谢模式怎样启发计算机与人工智能设计?最近的研究发现,大脑在处理计算与通信两种任务时,代谢模式不同,且大脑通信的代谢成本远高于计算。大脑能耗研究也为下一代高性能低功耗计算机的研发提供了启示。

  1。 大脑能量消耗之谜

  人脑仅占体重的2%,却占人体代谢负荷的20%[1-3],单位质量的代谢成本是肌肉的10倍。另一方面,大脑能在大约20W的能量预算下创作诗歌、艺术以及设计航天器——考虑到用来写作这篇文章的计算机就需要80W的能耗,大脑的能耗简直微不足道。

  大脑中何处消耗能量,能量被用来做什么?为什么大脑的代谢成本相对于其它生命活动如此高昂?大脑又是如何实现远高于硅基产品的能量效率?

  许多经典论文都研究过这些问题。Attwell和Laughlin[4]进行了详细的生物物理估计,表明神经信号传导和神经递质释放的突触后效应合起来占大脑三磷酸腺苷(ATP,生物体最直接的能量来源)消耗的80%,这一结论也得到了神经生理学和解剖学的支持 [5, 6]。

  许多研究探讨了这种能量消耗的结构及功能后果,包括限制大脑尺寸和缩放规律(size and scaling)、有效连线模式、模拟(分级电位)与数字(尖峰)信号、分布式神经代码、沿神经束的信息流量分布及其规模分布,还有计算异质性和效率等[8-17]。Sterling和Laughlin[18]对这些想法进行综合,得出一系列大脑的设计原则。Levy和Calvert[19]提出了哺乳动物大脑功率预算的功能解释,表明通信的代谢成本比计算高得多,并探索了神经回路组织的功能后果。

  2。 大脑中的通信和计算

  Levy和Calvert[19]以早期文献为基础,主要关注人脑中不同信息处理模式的相对能耗,而不是细胞层面不同功能的能耗。它们对通信和计算做出了关键的区分:“通信”一般是指信息点到点的传输(可能以某种方式编码),不包括表征转换、特征提取或决策的映射。大脑中通信的一个例子是视觉信息沿视神经从眼睛到中央大脑的传输,这个过程中视觉信息保持不变。“计算”是一个更微妙的概念,通常从输入-输出转换的角度来理解。

  Levy和Calvert在先前工作的基础上,将每个神经元视为对自身输入中的潜在变量进行“微观估计或预测”,并在脉冲间隔内(神经元两次传输信号的动作电位之间)对输出进行编码。微观估计和预测是极其一般化的框架,能够包含神经计算的其他观点(如将神经元视为动力系统或逻辑门),并且还包含了单个神经元在神经网络中的计算功能。同样,脉冲间隔中信息编码的形式也包含多种可能性,如速率编码和模式编码。因此,大脑中神经元“计算”的一个例子可以是V1区(见图1)中的一个细胞对视神经输入信号的估计或预测,并将其编码为视觉上某个物体(如一条水平线)的存在。

  图1。初级视觉皮层(V1),位于大脑内侧枕叶的距状沟中(后脑勺左右侧)。V1是皮层中的“第一个”视觉处理区域,LGN(外侧膝状体核,位于丘脑,接受视网膜大部分视觉信息输入)将大部分轴突信号发送至V1皮层。

  从这个角度出发,作者对比了计算中涉及的单位脉冲间隔的兴奋性电流中恢复离子梯度的ATP成本,以及通信中涉及的诸如轴突静息电位、动作电位和囊泡回收等成本,最终得出结论:通信相关的生物物理过程消耗的能量是计算相关过程的35倍(生物相关单位以每秒消耗ATP分子计,物理单位以每秒消耗焦耳计) [19]。

  通信与计算能耗的巨大差异为参考文献[4]中隐含的发现正名,其作者表明神经信号传导和神经递质释放的突触后效应支配着大脑的功耗。来自参考文献[15]的另一条证据表明,神经元中的线粒体分布会追踪放电率和突触传递,因此轴突的粗细很可能取决于突触终端的能耗需求,它占哺乳动物大脑能耗的65%[20]。

  在先前建立的框架中,文献[4]与[15]中描述的高能耗过程都是通信过程,不包括文献[19]中的计算过程。有趣的是,Levy和Calvert还估计,27%的皮层能量支出是用于与突触发生相关的过程,例如通过肌动蛋白聚合、膜合成和掺入,以及相关的细胞内运输的生长。这进一步细化了先前的能量预算,表明大脑将四分之一以上的能量用于促进持续学习,这与我们对大脑的印象相一致。

  3。 大脑耗能对计算机设计的启发

  在物理层面,Levy和Calvert计算出皮层灰质消耗了大约3W的功率,而根据大脑葡萄糖摄取量,估计大脑功率消耗为17~20W[1, 2],其中10%在正常情况下未被使用,大约9W以热量形式耗散,剩余能量为大脑其余部分供能。

  对皮层灰质3W的功耗估计与Lennie[21]早期工作的结果一致。但Lennie使用20年前可用的数据,发现大脑能量预算的划分略有不同——大脑50%的功耗用于与神经电信号活动(即计算和通信)无关的过程。该结论与当前研究的差异部分来自于生物物理数据,包括对突触数量及其接通率(success rate)的估计。新的估计还表明,灰质中每个神经元的能耗大约为2×10-9W,这与Herculano-Houzel的工作一致[22]。

  Levy和Calvert根据噪声神经积分器输入和输出之间的互信息,来估计大脑每焦耳能耗所计算的信息比特数。在这个定义下,他们发现神经元每比特的计算能耗是 Landauer理想热力学极限*[23]的108倍。他们认为这一巨大差异源于通信成本(Landauer忽略了这一点)和生物需要快速响应行为的计算需求。通信成本和快速计算需求这两个约束无疑是相关的,研究人员希望在未来仔细检验关于计算的定义,以及由活细胞计算施加的生物物理约束。

  *译者注

  Landauer原理表明,擦除1比特信息在理论上至少要产生kBTln2的能量耗散,这被称为Landauer极限。

  在Levy和Calvert的分析中,能量预算和每焦耳能耗所计算的比特数都取决于一个参数:皮质锥体神经元的平均输入突触数乘以它们的接通率。他们发现,当这个参数大约为2000时,每焦耳能耗所计算的比特数估值将最大化,接近于他们从数据中得出的值。这个有趣的结果让人想起之前使用能源效率来理解神经放电应该如何组织的研究[11, 13],以及信息应该如何在大脑中的细胞和结构之间进行分配的研究[14, 17]。这项新工作为更精细地分析大脑中的回路结构以及大脑如何划分计算任务打开了大门。

  图3。 大脑中的计算分布在网络中通信的特定组件之间。绿色圆圈表示皮质区域网络,每个区域执行不同的功能。橙色三角形表示锥体细胞网络,它们通过协作计算单个皮质区域的功能。Levy和Calvert认为基本单元的计算成本相比于它们之间的通信成本而言微不足道。

  Levy和Calvert的结果与在持续计算和通信方面解释区域脑代谢的功能性磁共振成像(fMRI)测量值是相关的。新数据也适用于对大脑演化的研究,如针对大脑代谢成本高昂[7]及代谢生理上限制大脑结构[8, 22]的研究。

  Levy的研究结果也会引发工程师对设计下一代低功耗智能计算设备的兴趣。研究指出由大脑灰质完成的计算和通信仅需3W的功率,即使加上用于保温的9W功率,这一功耗也比典型的笔记本电脑低出近一个数量级。

  先前的工作表明,信息处理速率和能耗间存在的收益递减规律将推动计算机向异构架构发展,在这种架构中,整体功能在各尺度上通过大量特定单元间的协作涌现,每个特定单元以物理基质决定的最高效率处理信息[17]。Levy和Calvert的论文表明,这种向异构架构的转变必须平衡好不同组件之间的网络学习成本和通信成本,因为尽管每个单元的计算成本相对较低,但单元间的通信成本将是高昂的。

  参考文献

  [1] L。 Sokoloff, “The metabolism of the central nervous system in vivo” in Neurophysiology, J。 Field, H。 W。 Magoun, V。 E。 Hall, Eds。 (Handbook of Physiology, American Physiological Society, 1960), sec。 1, vol。 3, pp。 1843–1864。

  [2] B。 K。 Siesjö, Brain Energy Metabolism (John Wiley, 1978)。

  [3] D。 F。 Rolfe, G。 C。 Brown, Cellular energy utilization and molecular origin of standard metabolic rate in mammals。 Physiol。 Rev。 77, 731–758 (1997)。

  [4] D。 Attwell, S。 B。 Laughlin, An energy budget for signaling in the grey matter of the brain。 J。 Cerebr。 Blood Flow Metab。 21, 1133–1145 (2001)。

  [5] A。 Ames 3rd, CNS energy metabolism as related to function。 Brain Res。 Brain Res。 Rev。 34, 4 2–68 (2000)。

  [6] V。 Braitenberg, A。 Schüz, Anatomy of the Cortex: Statistics and Geometry (Springer Science & Business Media, 2013), vol。 18

  [7] L。 C。 Aiello, P。 Wheeler, The expensive-tissue hypothesis: The brain and the digestive system in human and primate evolution。 Curr。 Anthropol。 36, 199–221 (1995)。

  [8] K。 Fonseca-Azevedo, S。 Herculano-Houzel, Metabolic constraint imposes tradeoff between body size and number of brain neurons in human evolution。 Proc。 Natl。 Acad。 Sci。 U.S.A。 109, 18571–18576 (2012)。

  [9] D。 B。 Chklovskii, A。 A。 Koulakov, Maps in the brain: What can we learn from them? Annu。 Rev。 Neurosci。 27, 3 6 9–392 (2004)。

  [10] R。 Sarpeshkar, Analog versus digital: Extrapolating from electronics to neurobiology。 Neural Comput。 10, 1601–1638 (1998)。

  [11] W。 B。 Levy, R。 A。 Baxter, Energy efficient neural codes。 Neural Comput。 8, 531–543 (1996)。

  [12] B。 T。 Vincent, R。 J。 Baddeley, T。 Troscianko, I。 D。 Gilchrist, Is the early visual system optimised to be energy efficient? Network 16, 1 7 5–190 (2005)。

  [13] V。 Balasubramanian, D。 Kimber, M。 J。 Berry, 2nd, Metabolically efficient information processing。 Neural Comput。 13, 7 9 9–815 (2001)。

  [14] K。 Koch et al。, How much the eye tells the brain。 Curr。 Biol。 16, 1428–1434 (2006)。

  [15] J。 A。 Perge, J。 E。 Niven, E。 Mugnaini, V。 Balasubramanian, P。 Sterling, Why do axons differ in caliber? J。 Neurosci。 32, 626–638 (2012)。

  [16] V。 Balasubramanian, P。 Sterling, Receptive fields and functional architecture in the retina。 J。 Physiol。 587, 2753–2767 (2009)。

  [17] V。 Balasubramanian, Heterogeneity and efficiency in the brain。 Proc。 IEEE 103, 1346–1358 (2015)。

  [18] P。 Sterling, S。 Laughlin, Principles of Neural Design (MIT Press, 2015)。

  [19] W。 B。 Levy, V。 G。 Calvert, Communication consumes 35 times more energy than computation in the human cortex, but both costs are needed to predict synapse number。 Proc。 Natl。 Acad。 Sci。 U.S.A。 118, e2008173118 (2021)。

  [20] B。 Sengupta, M。 Stemmler, S。 B。 Laughlin, J。 E。 Niven, Action potential energy efficiency varies among neuron types in vertebrates and invertebrates。 PLOS Comput。 Biol。 6, e1000840 (2010)。

  [21] P。 Lennie, The cost of cortical computation。 Curr。 Biol。 13, 49 3–497 (2003)。

  [22] S。 Herculano-Houzel, Scaling of brain metabolism with a fixed energy budget per neuron: Implications for neuronal activity, plasticity and evolution。 PLoS One 6, e17514 (2011)。

  [23] R。 Landauer, Irreversibility and heat generation in the computing process。 IBM J。 Res。 Dev。 5, 1 8 3–191 (1961)。

  作者:Vijay Balasubramanian | 封面:Ajeet Singh

  翻译:张澳 | 审校:梁金

  编辑:邓一雪 | 排版:光影

  https://www.pnas.org/content/118/32/e2107022118

  https://mp.weixin.qq.com/s/y4QFZHKAD2Kh6rmsjit7VA

(0)

相关推荐

  • 最佳工程实践:优化并联离心泵系统

    前言 当多台离心泵作为并联泵送系统的一部分连续运行时,可能会有显著节能的机会.例如,当单台泵可以满足工艺流量要求时,系统中的主泵和备用泵经常一起运行.这可能源于一种常见的误解,即并联运行两台相同的泵会 ...

  • 从列车运行能耗角度探讨逆变回馈装置节能效果

    李由1,张浩1,卜立峰2,刘炜1,张戬1,吴拓剑1 (1. 西南交通大学 电气工程学院,四川 成都 611756:2. 广州地铁集团有限公司,广东 广州 510000) 摘 要:针对逆变回馈装置节能效 ...

  • 【学术论文】基于NOMA物联网通信的能效优化

    " 摘要: 随着大规模MIMO和物联网的普及,能源效率(Energy Efficiency,EE)优化问题将是未来5G发展面临的挑战,其中多个用户可以在相同子信道上复用的NOMA技术表现出更 ...

  • 大脑为何如此耗能?比较计算与通信的代谢能效

    导语 / Introduction 为什么人脑仅占2%的体重,却消耗了人体20%的能量?人脑与计算机之间谁的能耗更高?大脑的代谢模式怎样启发计算机与人工智能设计?最近的研究发现,大脑在处理计算与通信两 ...

  • 科学家首次绘制出能量代谢人生 “全景图”

    原创 计永胜 知识分子 2021-08-16 收录于话题 #科学前沿 142个 人一生的能量消耗有怎样的规律?不同时期又有什么样的特点呢?| 图源:pixabay.com 撰文 | 计永胜 责编 | ...

  • 韩宇星团队:认知无线传感器网络分簇路由算法及在农业物联网中的应用现状

    本文节选自: 汪进鸿, 韩宇星. 用于作物表型信息边缘计算采集的认知无线传感器网络分簇路由算法[J]. 智慧农业(中英文), 2020, 2(2): 28-47. WANG Jinhong, HAN ...

  • 养成新习惯的四要素

    为什么形成新的习惯很难?因为事实上,我们人体的大脑其实是有能力在我们成长的过程中进行改变的,但是在一般的情况下,我们的大脑又会开启节省模式,不想白白的消耗自己精力. 从神经生理学的角度,就是神经元的层 ...

  • 一个仅占2%体重的器官,为啥消耗了人体20%的能量?

    2021-08-18 08:00 集智俱乐部 本文来自微信公众号:集智俱乐部(ID:swarma_org),作者:Vijay Balasubramanian,翻译:张澳,审校:梁金,编辑:邓一雪,原标 ...

  • 休息状态下大脑依然耗能

    神经科学家经过对脑电活动模式直接进行精确的检测后发现,不管大脑是处于记忆回顾等活跃状态,还是处于休息或睡眠状态,神经网络都以相同的方式协同工作.神经网络是由相距甚远的不同大脑区域组成的. 斯坦福大学医 ...

  • Q China 第30期 中科院物理所10比特超导量子计算云平台上线公测|国内首批量子通信行业标准

    |第三十期(2021.05.16-2021.05.21) 本周,政策方向,国家发展改革委.教育部.人力资源社会保障部近日印发<"十四五"时期教育强国推进工程实施方案>, ...

  • 通信管道土方量计算

    大致分为开挖土方量.回填土方量.管道包封混凝土量.倒运土方量4个值: 1.开挖土方量的计算: 开挖土方量=开挖管道沟面积×开挖长度 开挖管道沟面积=(地面开槽沟宽+沟底开槽沟宽)×开挖沟深/2 另外如 ...

  • 尽管大脑仅仅占据体重的2%,但却是耗能巨...

    尽管大脑仅仅占据体重的2%,但却是耗能巨大的器官,它每天消耗的能量达到每日能量的20%.与许多人认为的大脑细胞只能由葡萄糖来提供能量不同,实际上脑细胞的能量还可以由另一个物质来提供,那就是酮体. 当然 ...

  • Nature子刊:视网膜计算使眼睛先于大脑产生视觉信息

    更多技术干货第一时间送达 计算机视觉最初的灵感来自于人类的视觉.视觉的重要性相信大家都能体会,因为它不仅让我们能感受到这个缤纷多彩的世界,也让我们能够即时感知危险并避免危险带给我们的上海. 例如,当我 ...

  • 危险!损伤大脑!这种危害按秒计算,很多人却仍不重视…

    本文专家:廉文瑞,山西省人民医院全科医疗科主治医师 本文审稿:陈海旭,解放军总医院第二医学中心,副所长,硕士生导师 在日常的新闻报道中,我们经常会听到有人因为低血糖而晕倒,或发生危险的.而且,低血糖的 ...

  • 人类大脑如何工作?五篇计算神经学论文告诉你

    人类大脑如何工作?五篇计算神经学论文告诉你 这里介绍几篇计算神经学领域的评论文章,论文主要概述理论计算神经学近几年来在多个方面的研究进展.计算神经学是用理论方法去研究大脑的计算的学科.这些论文来自于 ...

  • 【耗能占全身的20%,大脑神经元如何获得能量?】

    来源:生物通 丘脑被称为"意识之门".它接收到的感觉信号包括来自耳朵.眼睛和皮肤的信号.然后把它们分别送到大脑皮层的负责中心.只有这样,我们才能意识到这些信息,例如乐器的声音. 人 ...