图网络论文|ECCV'20|一种新的图网络正则化方法：DropCluster

http://www.ecva.net/papers/eccv_2020/papers_ECCV/papers/123660239.pdf

Dropout已被广泛采用，它通过将节点特征向量随机归零来对图卷积网络（GCN）进行正则化，并在各种任务上获得了不错的性能。但是，将（1）不同节点特征向量进行（spatially）传播，（2）每个节点特征向量的不同entries之间进行深度传播，单独归零的entries的信息仍可能会出现在其他相关条目中，这实质上削弱了Dropout。这主要是因为在GCN中，对线性变换后的相邻节点特征向量进行聚合以在后续层中生成新的节点特征向量。换句话说，置零之后，经过aggregation后以及后续的网络中还会出现。

为了有效地规范化GCN，本文作者设计了DropCluster，它首先将一些entries随机置零，然后将在空间或深度上与这些相关entries也置零。这样，相关entries的信息被彻底删除，并且无法流到后续的层。通过将其与Dropout及其代表性变体（例如SpatialDropout，Gaussian Dropout和DropEdge）在基于骨骼的动作识别上进行全面比较，作者验证了它的有效性。

如果你觉得不错，点个在看