[2021最新] 顶级大佬的GNN教学视频
本期我们为大家推荐几个图深度学习的课程。这些课程都是由业内大牛主讲,如GAT一作Velikovic关于图神经网络理论基础的分享,斯坦福Jure关于GNN设计空间的分享,Bresson关于GNN表示能力的分享等。
是不是很心动呢?让我们一起来看看吧!
01
Peter Velikovic
首先是Peter Velikovic(著名的GAT的一作)的讲解,该视频的主题是图神经网络的理论基础。相对而言比较深,但是很有价值。无论你是刚刚接触这个领域,亦或是对这个领域有一定的积累,这期视频都会对你有帮助。
https://www.youtube.com/watch?v=uF53xsT7mjc
Peter首先列举了一些通过一些生活中常见的图神经网络应用场景,比如分子数据处理,谷歌地图等。
然后Peter从一下几个方面对GNN进行讲解:
从首要原理推导GNN
将这个放到几个独立研究的GNN推导环境中
看向过去:类似GNN的模型是怎么在历史上的机器学习研究中涌现出来的
看向现在:一些现在的研究兴趣和热点
看向未来:我们的蓝图是怎样从图结构的输入中获得结果的
02
Jure Leskovec
这个课程是由图机器学习的大牛Jure Leskovec主讲的。他是斯坦福大学计算机科学系的副教授,论文《node2vec: Scalable feature learning for networks》,《Inductive representation learning on large graphs》等的作者。该视频的主题是GNN的设计空间。
http://i.stanford.edu/~jure/pub/talks2/jure-GNN_design_space-aaai21.mkv
随着GNN的快速发展,涌现出越来越多的新架构以及新颖的应用程序。但是很少有人了解如何快速找到适用于新任务或新数据集的最佳GNN设计。在本次演讲中,Jure讨论了两个项目:
1.开放图基准测试OGB,这是一组用于图机器学习的基准数据集。
2.定义和系统研究GNN的设计空间,期中包括315000中不同的设计和32中不同的预测任务。
03
Xavier Bresson
该视频的主讲人是南洋理工大学教授Xavier Bresson,也是图神经网络的领域大佬。这个视频也是非常深入理论的GNN教学视频了,包括WL-test,图神经网络的表示能力和位置编码。
https://www.youtube.com/watch?v=M60huxIvKbE
他的视频主要从以下几个方面进行讲解:
WeisFeiler-Lehman GNNs
图同构网络
主邻域聚集
等变GNN
3-WL/环GNN
低阶注意力机制GNN
图子结构神经网络
表现力和通用近似器
WL的表现力
图通用近似器
表现力的限制
图位置编码
索引位置编码
网络的结构信息传递
Laplacian位置编码
边表示的链路预测
集合的GNN
04
Jian Tang
Jian Tang是MILA Yoshua Bengio组的青年教师,分享主题是学习符号逻辑规则并在知识图谱上进行推理。
https://drive.google.com/file/d/15JxRQzw8BtM9HMigdo7JGxhPGuqv93pP/view?usp=sharing
Jian Tang介绍了他们在学习用于知识图谱推理的逻辑规则方面的最新进展。逻辑规则在用于预测时能够提供可解释的理由,并且能够推广到其他任务,因此对于学习至关重要。但是现有的方法在较大的搜索空间进行搜索会由于奖励稀疏而导致无效优化。为了解决这些规则,提出了RNNLogic的概率模型。Jian Tang对该模型进行了介绍。
05
Shuiwang Ji
该演讲的主题是用于分子特性预测和药物发现的高级图和序列神经网络,主讲人是Shuiwang Ji
https://drive.google.com/file/d/1WUokpCEEg7RYOMN2onbRWAVIWMdub7Op/view
分子的性质能指示出其功能,所以通过预测分子性质,可以经济有效地替代实验方法。但是当前缺少用于次任务的工具和方法。而主讲人的团队开发了MoleculeKit,是一套全面的机器学习工具,涵盖了用于分子特性预测和药物发现的不同计算模式和分子表现形式。然后主讲人对该模型进行了介绍。