图神经网络加速结构综述
李涵, 严明玉, 吕征阳, 李文明, 叶笑春, 范东睿, 唐志敏. 图神经网络加速结构综述[J]. 计算机研究与发展, 2021, 58(6): 1204-1229.
近年来,新兴的图神经网络因其强大的图学习和推理能力,得到学术界和工业界的广泛关注,被认为是推动人工智能领域迈入“认知智能”阶段的核心力量.图神经网络融合传统图计算和神经网络的执行过程,形成了不规则与规则的计算和访存行为共存的混合执行模式.传统处理器结构设计以及面向图计算和神经网络的加速结构不能同时应对2种对立的执行行为,无法满足图神经网络的加速需求.
为解决上述问题,面向图神经网络应用的专用加速结构不断涌现,它们为图神经网络定制计算硬件单元和片上存储层次,优化计算和访存行为,取得了良好的加速效果.以图神经网络执行行为带来的加速结构设计挑战为出发点,从整体结构设计以及计算、片上访存、片外访存层次对该领域的关键优化技术进行详实而系统地分析与介绍.最后还从不同角度对图神经网络加速结构设计的未来方向进行了展望,期望能为该领域的研究人员带来一定的启发.
未来展望
由于图神经网络加速结构研究尚处于新兴初始 研究阶段,其仍具备很大的发展优化空间,具体而言有4个方面:
1)大规模多节点加速结构.随着大数据时代图数据规模的不断上升,图神经网络应用对计算资源的需求也愈加提高,单节点将难以高效执行超大规模图神经网络应用,算力甚至可能无法满足其运行需求.因此设计可扩展的多节点加速系统势在必行, 目前学术界和工业界尚未有该类成果问世,相信在不久的未来,该方向会成为图神经网络应用的研究热点之一.
2)异质图神经网络加速结构.现实生活中相对同质图,异质图是更为常见的图结构,异质图中节点 和边可以有多种不同的类别,且节点相连关系更为复杂,但数据表达能力更强,适用场景更广.尽管已有针对异质图的图神经网络算法实现,DGL框架也开始支持异质图的构建,但面向异质图神经网络应 用的加速结构领域仍是无人区.
3)算法与阶段支持灵活化.目前图神经网络专用加速结构多只针对单类别算法进行加速支持.但随着图神经网络算法的高速发展,不仅算法种类会有所增加,并且每种类别中的具体算法也会不断革 新,这就使得加速结构是否能高效适应与支持后续 的新型算法成为一个亟需克服的难题.另外,目前的 已有工作大多只能针对训练或者推断中的单一阶段 进行加速,如何能够让加速结构高效地同时对2个 阶段产生加速作用也是一个值得思考的问题.因此 提升图神经网络加速结构设计对算法与执行阶段支持的灵活性是另一个极具应用价值的研究方向.
4)图神经网络加速结构产业化落地.图神经网 络作为推动人工智能领域革新、迈入“认知智能”时代的核心主力军,极富商业应用价值,有望为人们生活智能化与科技进步做出更大的贡献.有寒武纪等 在内的国内自主研发的人工智能芯片珠玉在前,相信面向图神经网络应用的产业化芯片也指日可待, 且必将创造更多辉煌. 图神经网络作为推动认知智能时代发展的重要 应用之一,具有极高的研究价值与产业前景.相信本 文对面向图神经网络应用的加速结构设计中涉及到 的关键优化技术与未来方向的详实介绍,能够让读 者清晰地了解该领域的研究现状,并对相关研究人 员在加速结构设计过程中有所启发.
点击“阅读全文”可下载阅读。