点击上方 蓝字关注我们
1. 综述：图上的AutoML
1. Automated Machine Learning on Graphs: A Survey
清华大学 Ziwei Zhang, Xin Wang, Wenwu Zhu
图机器学习在学术界和工业界都得到了广泛的研究。然而，随着图学习文献的大量涌现，涌现出大量的方法和技术，对于不同的图相关任务，人工设计最优的机器学习算法变得越来越困难。为了解决这一关键挑战，图上的自动机器学习(AutoML)结合了图机器学习和自动学习的优点，正受到学术界的关注。因此，本文对图自动学习方法进行了全面的综述，重点研究了用于图机器学习的超参数优化(HPO)和神经结构搜索(NAS)。本文进一步概述了与自动图机器学习相关的库，并深入讨论了AutoGL，这是第一个用于AutoML on graphs的专用开源库。最后，作者分享了对自动图机学习未来研究方向的看法。据作者所知，这篇论文是第一个关于图上的自动机器学习的系统和全面的综述。
https://arxiv.org/abs/2103.00742
2. 综述：图自监督学习
Graph Self-Supervised Learning: A Survey
Monash University等
Yixin Liu, Shirui Pan, Ming Jin, Chuan Zhou, Feng Xia, Philip S. Yu
最近，基于图的深度学习引起了人们的极大兴趣。但是，大多数工作都集中在（半）监督学习上，导致对标签的依赖度过高，泛化性差和鲁棒性差。为了解决这些问题，自监督学习（SSL）可以通过精心设计的任务提取信息知识，而无需依赖人工标签，这已经成为一种promising的趋势图学习范例。与计算机视觉/自然语言处理等其他领域不同，图上的SSL具有专有的背景，设计思想和分类法。在图自监督学习的保护下，本文对使用SSL技术处理图数据的现有方法进行了及时而全面的回顾。根据其自监督任务的设计，本文将它们分为四类。进一步讨论该研究领域中尚存的挑战和潜在的未来方向。
3. A unified Review: 图神经网络自监督学习
Self-Supervised Learning of Graph Neural Networks: A Unified Review
Texas A&M University等
Yaochen Xie, Zhao Xu, Zhengyang Wang, Shuiwang Ji
https://arxiv.org/abs/2102.10757
在监督模式下训练的深度模型在各种任务上都取得了显著的成功。在标记样本有限的情况下，自监督学习(self-supervised learning, SSL)成为利用大量未标记样本的新范式。SSL在自然语言和图像学习任务中已经取得了很好的效果。最近，利用图神经网络(GNNs)将这种成功扩展到图数据的趋势。
在本综述论文中，作者提供了使用SSL训练GNN的不同方法的统一回顾。具体来说，将SSL方法分为对比模型和预测模型。在这两类中，我们都为方法提供了一个统一的框架，以及这些方法在框架下的每个组件中的不同之处。我们对GNNs SSL方法的统一处理揭示了各种方法的异同，为开发新的方法和算法奠定了基础。我们还总结了不同的SSL设置和每个设置中使用的相应数据集。为了促进方法开发和实证比较，我们为GNNs中的SSL开发了一个标准化测试床，包括通用基线方法、数据集和评估指标的实现。
4 图上的元学习: 方法和应用
Meta-Learning with Graph Neural Networks: Methods and Applications
Columbia University等
Debmalya Mandal, Sourav Medya, Brian Uzzi, Charu Aggarwal
https://arxiv.org/abs/2103.00137
图神经网络（GNN）是对图数据进行深度神经网络的泛化，GNN已广泛用于从药物发现到推荐系统的各个领域。但是，当可用样本很少时，此类应用上的GNN受限制。元学习一直是解决机器学习中样本不足的重要框架，近年来，研究人员已开始将元学习应用于GNN。在这项工作中，作者对图上不同的元学习方法进行了全面调查，并且根据结构，表示形式和应用对文献进行分类。最后，讨论了一些有意思的研究方向和未解决的问题。
5 综述：图结构学习用于鲁棒性表示
Deep Graph Structure Learning for Robust Representations: A Survey
https://arxiv.org/pdf/2103.03036.pdf
中科院自动化研究所：Yanqiao Zhu∗ , Weizhi Xu∗ , Jinghao Zhang∗ , Qiang Liu, Shu Wu† and Liang Wang
图神经网络（GNN）被广泛用于分析图结构数据。大多数GNN方法对图结构的质量高度敏感，并且通常需要用于学习信息嵌入的完美图结构。但是，图中的噪声无处不在，因此有必要为现实世界中的问题学习可靠的表示形式。为了提高GNN模型的鲁棒性，围绕图结构学习（GSL）的中心概念提出了许多研究，旨在共同学习优化的图结构和相应的表示形式。为此，在提出的调查中，作者广泛回顾了GSL方法在学习鲁棒表示中的最新进展。具体来说，首先定义了GSL的一般范式，然后按模型结构建模方式分类的最新方法进回顾，然后将在其他图形任务中纳入GSL思想的应用程序进行分类。最后，指出了当前研究中的一些问题，并讨论了未来的方向。
本文简单介绍五篇最近图网络相关的研究综述，涉及AutoML, 自监督学习，鲁棒表示，元学习等
