图神经网络中的谱图理论根底

 时间:2023-03-29 11:24:50      开云作者: 开云科技

  拉普拉斯算子(Laplace Operator)是为欧几里德空间中的一个二阶微分算子,界说为

  那么咱们能够以为:拉普拉斯算子是一切自在度上进行细小改变后所取得的增益。

  关于无向图来说,拉普拉斯矩阵是实对称矩阵,而实对称矩阵必定能够用正交矩阵进行正交类似对角化:

  图的拉普拉斯矩阵的运用是多种多样的,本文只介绍一些学习图神经网络(主要是图卷积网络GCN)的一些根底常识。图的拉普拉斯矩阵还能够运用在谱聚类办法中,这是一种聚类办法,也可作为一种降维办法,感兴趣的同学能够参阅:谱聚类机器学习推导系列(二十)。

  本章节需求了解傅里叶变换的相关常识,能够参阅这篇文章:傅里叶级数与傅里叶变换。

  关于网络来说,直接进行卷积是困难的,由于网络不具备图画那样规矩的网格结构,因而考虑运用图傅里叶变换将网络的空域信息映射到频域来运用卷积定理完结卷积操作。

  图傅里叶变换是运用类比的办法直接界说的,并非通过严厉推导,类比的办法如下:

  ①拉普拉斯算子与拉普拉斯矩阵:拉普拉斯算子的作用是能够得到一个点在某些自在度上微扰今后取得的增益,而拉普拉斯矩阵能够取得网络中的每个节点微扰今后从它的街坊节点上取得的增益,也就是说:拉普拉斯矩阵之于网络就相当于拉普拉斯算子之于函数。

  已然关于函数来说拉普拉斯算子的特征值和特征函数能够用于函数的傅里叶变换,那么关于网络来说拉普拉斯矩阵的特征值和特征向量就能够用于网络的傅里叶变换。换句话说,傅里叶变换是以拉普拉斯算子的特征函数为基进行投影,那么图傅里叶变换就以拉普拉斯矩阵的特征向量为基进行投影,因而图傅里叶变换界说为:

  图嵌入总述 图剖析使命能够大致笼统的分为以下四类:(a)节点分类(b)链接猜测(c)聚类(d)可视化。 实在的图(...

  在中篇中,咱们了解了图机器学习(GML:Graph Machine Learning)。下面,总算到了这个前置教程...

  CS224W-图神经网络 笔记5.1:Spectral Clustering - 谱聚类根底常识点

  CS224W-图神经网络 笔记5.1:Spectral Clustering - 谱聚类根底常识点 本文总结之日C...

  前语 深度学习中我们熟知的几种结构DNN、CNN、RNN(LSTM和GRU)等等是为了处理欧式空间中的数据,如图片...

  前语: 2,3年前,我关于深度学习认知规模仅限于CNN,RNN等传统神经网络模型,学弟跟我说他在研讨图神经网络,我...