点击上方 蓝字关注我们
ACM SIGKDD（国际数据挖掘与知识发现大会，简称 KDD）是世界数据挖掘领域的最高级别的学术会议，由 ACM 的数据挖掘及知识发现专委会（SIGKDD）主办，被中国计算机协会推荐为 A 类会议。自 1995 年以来，KDD 已经连续举办了26届，今年将于2021年8月14日至18日举办，今年的会议主办地在新加坡。
KDD2021一共投稿1541篇论文，238篇论文被接收，接收率为15.44%，相对比KDD2020的接收率16.9%有所下降，但是相对于2019年“灭霸式”接收率有所上升。KDD作为世界数据挖掘领域的最高级别的学术会议，其对论文接收非常严格，每年的接收率不超过 20%。近几年论文接收率甚至呈现逐渐下降的整体趋势。
（图来自AI研习社）
本文介绍五篇使用图神经网络建模序列图数据的相关论文，各有各的精彩, 加粗的五篇论文可以在arxiv看到原文. 建模时间图序列下面论文使用了偏微分方程，双曲空间，联邦学习，字典学习，还有什么理论和新颖的方法能够建模时间图序列？
Heterogeneous Temporal Graph Transformer: An Intelligent System for Evolving Android Malware Detection
T-GAP: Learning to Walk across Time for Temporal Knowledge Graph Completion
Discrete-time Temporal Network Embedding via Implicit Hierarchical Learning in Hyperbolic Space
Cross-Node Federated Graph Neural Network for Spatio-Temporal Data Modeling
Forecasting Interaction Order on Temporal Graphs
Spatial-Temporal Graph ODE Networks for Traffic Flow Forecasting
Temporal Graph Signal Decomposition
T-GAP: 基于时间位移差编码的知识图谱补全
作者：Jaehun Jung（Seoul National University）等
在知识图谱补全的任务中，作者在编码器中引入时间图神经网络， 对输入查询的时间戳和被编码的每条边之间的时间位移进行编码。举个例子：
A 已在 12/18 感染 COVID-19， A 在 12/19 遇到 B。在这里有价值的信息在于 A 在遇到B的2天之前被感染，而不是他在 12/18 的特定日期被感染。 在考虑时间事件时，最重要的是事件与感兴趣时间之间的相对位移，而不是事件的绝对时间。为了有效地捕捉时间位移，作者提出的编码器分别对位移的符号（即事件的时间属于过去、现在还是未来）和位移的幅度（即事件距事件有多远）进行编码。此外，T-GAP 基于注意力流的概念对 TKG 执行基于路径的广义推理。通过分析推断的注意力分布， T-GAP 在其推理过程中具有清晰的可解释性。
HTGN: 双曲空间中的时态网络嵌入
Discrete-time Temporal Network Embedding via Implicit Hierarchical Learning in Hyperbolic Space
作者：Menglin Yang (CUHK)等
作者提出了一个双曲时间图网络（HTGN），它充分利用了双曲几何的指数容量和层次意识。更具体地说，HTGN 将时间图映射到双曲空间，并结合双曲图神经网络(HGNN)和双曲门控递归神经网络(HGRU)，同时捕捉时间演化的行为并隐式保留层次信息。此外，在双曲空间中，作者提出了两个重要的模块，使 HTGN 能够成功地对时间网络进行建模: (1) 双曲时间上下文自注意（HTA）模块， 用于以关注历史状态; (2)双曲时间一致性(HTC) 模块以确保稳定性和泛化性。在多个真实世界数据集上的实验结果验证了 HTGN 在时间图嵌入方面的优越性，因为它在各种时间链接预测任务中始终以显着优势优于竞争方法。
CNFGNN: 用于时空数据建模的跨节点联合图神经网络
作者：Chuizheng Meng(USC)等
Cross-Node Federated Graph Neural Network for Spatio-Temporal Data Modeling
虽然联邦学习 (FL) 已成为不需要直接数据共享和交换的模型训练框架，但有效地对复杂的时空依赖进行建模以提高预测能力仍然是一个悬而未决的问题。另一方面，最先进的时空预测模型假设可以不受限制地访问数据，而忽略了对数据共享的限制。为了弥补这一差距，作者提出了一个联合时空模型——跨节点联合图神经网络 (CNFGNN)——它在跨节点联合的约束下使用基于图神经网络 (GNN) 的架构显式编码底层图结构。这要求节点网络中的数据在每个节点本地生成并保持分散。CNFGNN 通过解开设备上的时间动态建模和服务器上的空间动态来运行，利用交替优化来降低通信成本，促进边缘设备上的计算。交通流预测任务的实验表明，CNFGNN 在转导和归纳学习设置中都实现了最佳预测性能，在边缘设备上没有额外的计算成本，同时产生适度的通信成本。
STGODE: 用于交通流预测的时空图 ODE 网络
Spatial-Temporal Graph ODE Networks for Traffic Flow
Forecasting
作者: Zheng Fang*(PKU), Qingqing Long*(Alibaba)(contributed equally)等
时空预测在交通流预测是一个规范和典型的例子。交通流复杂且长期的时空相关性使其面临最棘手的挑战。现有工作通常利用浅层图卷积网络 (GNN) 和时间提取模块分别对空间和时间依赖性进行建模。然而，这些模型的表示能力受到限制，因为：（1）浅层 GNN 无法捕获长距离的空间相关性，（2）只考虑空间连接而忽略了大量语义连接，这是非常重要的对于全面了解交通网络。为此，作者提出了时空图常微分方程网络（STGODE）。1 .具体来说，作者通过基于张量的常微分方程 (ODE) 捕获时空动态，因此可以构建更深的网络并同步利用时空特征。为了更全面地理解网络，作者考虑了语义邻接矩阵，并使用精心设计的时间扩张卷积结构来捕获长期时间依赖性。
TGSD: 第一个通过时间和图字典联合建模图信号的框架
作者：Maxwell McNeil (University at Albany)等
时间图信号是多元时间序列，具有与固定图结构的节点相关联的单个组件。此类数据出现在许多领域，包括社交网络用户的活动、传感器网络随时间的读数以及模型生物交互网络内的时间进程基因表达。应用矩阵分解方法无法利用底层图中编码的结构规律以及信号的时间模式。
我们如何考虑这种结构以获得时间图信号的简洁和可解释的表示？
作者提出了一个基于字典的通用框架，用于时间图信号分解（TGSD）。关键思想是通过图和时间字典的组合来学习数据的低秩联合编码。作者为完整和不完整数据提出了一种高度可扩展的分解算法，并证明了它在矩阵分解、缺失值插补、时间插值、聚类、周期估计和从交通模式到真实世界数据的等级估计方面的优势。在社交媒体活动中，当多达 75% 的观测值丢失时，作者的框架与时间插值的基线相比，RMSE 降低了 28%。它在 350 万个数据点上花费不到 20 秒的基线中扩展性最好，并生成最简约的模型。TGSD 是第一个通过时间和图字典联合建模图信号的框架。
