1. 图节点没有明确的物理空间信息,不像像素点,能够明确在中心点的左边还是右边。所以,要想进行卷积,要找到最能捕获图结构的每个节点的特征表示。作者通过将每个节点的卷积核权重 W 和特征空间 X 投影到图的傅立叶空间(通过傅立叶变换可以把任何波形分解成不同频率的正弦波有效的提取其中的信息)中来解决这个问题,使得卷积变成具有特征的节点的逐点乘法。
2.图网络的分类
图嵌入(Graph Embedding/Network Embedding,GE),属于表示学习的范畴,也可以叫做网络嵌入,图表示学习,网络表示学习等等。通常有两个层次的含义:
将图中的节点表示成低维、实值、稠密的向量形式,使得得到的向量形式可以在向量空间中具有表示以及推理的能力,这样的向量可以用于下游的具体任务中。例如用户社交网络得到节点表示就是每个用户的表示向量,再用于节点分类等;
将整个图表示成低维、实值、稠密的向量形式,用来对整个图结构进行分类;
图嵌入的三种方法:
矩阵分解:将节点间的关系用矩阵的形式加以表达,然后分解该矩阵以得到嵌入向量。通常用于表示节点关系的矩阵包括邻接矩阵,拉普拉斯矩阵,节点转移概率矩阵,节点属性矩阵等。根据矩阵性质的不同适用于不同的分解策略。
(拉普拉斯矩阵L=D-A
其中D为图的度矩阵,A为图的邻接矩阵。度矩阵在有向图中,只需要考虑出度或者入度中的一个。)
DeepWalk
Graph Neural Network
3.卷积
什么是卷积:Convolution的数学定义是 :
在图像里面卷积的概念很直接,因为像素点的排列顺序有明确的上下左右的位置关系。那在抽象的graph比如社交网络抽象出来的graph里面,有的社交vip会关联上万的节点,这些节点没有空间上的位置关系,也就没办法通过上面给出的传统卷积公式进行计算。----傅立叶变换+拉普拉斯算子
详见:添加链接描述
4.图卷积网络:图卷积神经网络GCN属于图神经网络GNN的一类,是采用卷积操作的图神经网络,可以应用于图嵌入GE。
用随机的共享的卷积核得到像素点的加权和从而提取到某种特定的特征,然后用反向传播来优化卷积核参数就可以自动的提取特征,是CNN特征提取的基石。
对于大多数图模型,有一种类似通式的存在,这些模型统称GCNs。因此可以说,图卷积是处理非结构化数据的大利器。
图卷积形象化理解:图中的每个结点无时无刻不因为邻居和更远的点的影响而在改变着自己的状态直到最终的平衡,关系越亲近的邻居影响越大。
假设我们构造一个两层的GCN,激活函数分别采用ReLU和Softmax,则整体的正向传播的公式为:
这里的 A 是图 G 的邻接矩阵,D 是图 G 的度矩阵。W0 和 W1 分别是 GCN 第一层和第二层可学习的卷积核权重,也是需要被训练学习的。X 是输入特征矩阵,是与节点数相同的维度的对角方形矩阵,这意味着输入是图中每个节点的 one-hot 编码。最后将输出馈送到具有softmax 函数的层,用于分类。
具体公式分析:添加链接描述