【评论区附加阅读】零基础多图详解图神经网络（GNN/GCN）【论文精读】
沐神讲的博客链接：https://distill.pub/2021/gnn-intro/
需要有一定的机器学习的背景。
图是一个非常强大的东西，但是它的强大也带来了很多问题：很难在图上做出优化，图一般比较稀疏，有效的在CPU、GPU、加速器上计算是一件比较难的事情；图神经网络对超参数比较敏感。
图神经网络门槛比较高，这些年吸引了很多人对他的研究，但在工业界上的应用还需要时间的积累。
很多图是交互图（既是优点（非常漂亮）又是缺点（门槛太高，有时用一个公式可以清晰的将其表达出来））。
1.什么是图？图的属性应该用向量来进行表示。对于顶点、边、全局都用向量来表示它的属性。
2.现实生活中的现象怎么表示成图，怎么对顶点、边、全局进行预测？
3.机器学习的算法用到图上有什么挑战？
4.定义GNN：GNN就是对属性做变换，但不改变图的结构。
5.属性有缺失可以做聚合操作，把边的数据拿到结点上面，补足缺失的数据。
6.GNN：每一层里面通过汇聚操作，把信息传递过来，每个顶点看邻接顶点的信息；每个顶点看邻接边的信息或全局的信息。在每一层上如果能对信息进行充分的汇聚，那么GNN可以对图的结构进行一个发掘。
7.实验：做了很多实验，可以看到参数对实验结果的影响。
我上班之余学习沐神课程，尚且刚学完上节又出新节。
要知道学可比讲和做视频花精力和时间少多了(may be)。再次感慨沐神之工作效率。我想我的学习列表里必须加入一些改进效率的方法论了，否则学都赶不上了。【跟李沐学AI：其实也很容易，你时不时看一下手机里面哪个app一周用时超过4小时，然后删掉。我最近删的app是bilibili】
图神经网络属于比较难做，好发论文的方向。比较难做就是数据预处理、模型设计，这些相比cv、nlp有数倍设计难度，故好发论文（新、难）。从出成果来看，follow 师兄的方向接着做才是研究生阶段好发论文的方法，如果没有师兄属于开荒阶段，切记把目标放低一点（尤其是导师也不太会的情况下）
pooling 汇聚（池化，从分散的多个地方汇聚到一个池子里面）
李沐的翻译太好了，终于懂了为什么叫pooling了
原文地址：
https://distill.pub/2021/gnn-intro/
https://distill.pub/2021/understanding-gnns/
这几天刚好在看一篇综述《A Comprehensive Survey on Graph Neural Networks》，综述里对GNN的定义比这篇博客要广好多
（博客中介绍的应该只是Convolutional Graph Neural Networks with Spatial methods）还有十分感谢沐神带我们发现distill这么一个大宝藏
老师，时空图卷积st-gcn可以讲解一下吗？关于人体动作识别的
我发布了一篇笔记，快来看看吧
GNN a gentle introduction to graph neural network 对图神经网络的简易介绍 神经网络被用在处理图的...
https://www.bilibili.com/h5/note-app/view?cvid=14432698&;pagefrom=comment
谢谢老师！还想听更多关于GCN和GAT的文章
想问一下，这篇文章讲的就是GCN吗，感觉和那些用谱分解来讲GCN的不太一样啊？【从图信号处理出发的话，就是用谱分解来讲gcn，但是门槛有点高，不如这篇文章通俗易懂】
沐神，还有哪些像distill一样，把知识点如此庖丁解牛、且如此易读的网站？
最近在看video-based GNN Person Re-ID，看了这篇文章、听了沐神的讲解受益匪浅，再次感谢！
希望大佬可以讲讲GIN，不是很懂它为什么能做到GNN表达能力的上限。
李老师，最近看vision transformer的论文经常看到这个词Inductive biases，但是还是不是特别的理解，李沐老师可以解释的通俗一点吗？【个人理解是你把你对问题的理解作为一种先验知识融入了模型设计，让你的模型更好训练了，但同时也失去了一些解的可能。比如CNN就比Transormer需要的数据量更小，更容易训练， 】【在设计模型的时候或多或少会有一些假定，比如CNN的局部连接参数共享，GNN的locality假设等等，目的是缩小你的假设空间，能够有效地找到解。Transformer就是一种低inductive bias的模型，因为它对问题基本上没有假设】【归纳偏置，因为每个模型都有自己的一些假设，会导致你的模型会优先考虑具有某些属性的解。】
目前体验最舒服的论文精读，论文中交互式的图对教和学都很友好。这种introduction如果都能避免公式多用图就好了。每次看到公式都得花很多时间去了解符号的意义和数学原理。这次算是真的无痛精读
有个问题，就是图神经网络的输出到底是啥呀，我看完也没看明白【输出还是图】
