数据结构分析_Inception_GNN_GCN

• 欧几里德数据
  
  如上图所示&＃xff0c;每个节点之间都是排列整齐的&＃xff0c;所以很容易的可以定义出距离来&＃xff0c;如下图所示&＃xff1a;
  
• 非欧几里德数据
  
  排列不整齐&＃xff0c;比较的随意。具体体现在&＃xff1a;对于数据中的某个点&＃xff0c;难以定义出其邻居节点出来&＃xff0c;或者是不同节点的邻居节点的数量是不同的。

https://blog.csdn.net/imsuhxz/article/details/91361977

inception V1

卷积了几步之后就开始出现并行的过程&＃xff0c;换成几个 1 * 1&＃xff0c; 3 * 3&＃xff0c; 5 * 5的卷积并列。然后再把分别卷积的结果作为层数维度上的合并。
比方说这一层本来是一个2828大小的卷积核&＃xff0c;一共输出224层&＃xff0c;换成inception以后就是64层1 * 1&＃xff0c; 128层3 * 3&＃xff0c; 32层5 * 5。这样算到最后依然是224层&＃xff0c;但是参数个数明显减少了&＃xff0c;从2828*224 &＃61; 9834496 变成了1 * 1 * 64&＃43;3 * 3 * 128&＃43;5 * 5 *32 &＃61; 2089&＃xff0c;减小了几个数量级。
再上一张形象的图&＃xff1a;

Inception V2

inception V2 其实在网络上没有什么改动&＃xff0c;只是在输入的时候增加了batch_normal&＃xff0c;所以他的论文名字也是叫batch_normal&＃xff0c;加了这个以后训练起来收敛更快&＃xff0c;学习起来自然更高效&＃xff0c;可以减少dropout的使用。

BN 理解

神经网络中传递的张量数据&＃xff0c;其维度通常记为[N, H, W, C]&＃xff0c;其中N是batch_size&＃xff0c;H、W是行、列&＃xff0c;C是通道数。那么上式中BN的输入集合 [公式] 就是下图中蓝色的部分。


https://zhuanlan.zhihu.com/p/93643523

Inception V3

Inception V3把googlenet里一些7 * 7的卷积变成了1 * 7和7 * 1的两层串联&＃xff0c;3 * 3 的也一样&＃xff0c;变成了1 * 3和3 * 1&＃xff0c;这样加速了计算&＃xff0c;还增加了网络的非线性&＃xff0c;减小过拟合的概率。另外&＃xff0c;网络的输入从224改成了299.

Inception V4

inception v4实际上是把原来的inception加上了resnet的方法&＃xff0c;从一个节点能够跳过一些节点直接连入之后的一些节点&＃xff0c;并且残差也跟着过去一个。
另外就是V4把一个先1 * 1再3 * 3那步换成了先3 * 3再1 * 1.
论文说引入resnet不是用来提高深度&＃xff0c;进而提高准确度的&＃xff0c;只是用来提高速度的
https://blog.csdn.net/u011021773/article/details/80791650

• 聚合
  
• 更新
  
• 传递
  

https://www.bilibili.com/video/BV1Tf4y1i7Go/?spm_id_from&＃61;333.788.recommend_more_video.-1

对于上面聚合没有考虑到自己的信息以及对于GNN中聚合里的B、C、D点的权重如何确定&＃xff1f;

• 聚合&＃xff08;包含自己&＃xff09;
  
• 平均法&＃xff08;由特例&＃xff0c;如&＃xff1a;收入不均衡&＃xff09;
  
• 解决&＃xff08;公式中D是度的意思&＃xff0c;来限制权重&＃xff09;
  
  https://www.bilibili.com/video/BV1Xy4y1i7sq?spm_id_from&＃61;333.999.0.0