论文阅读2.1 Orthogonal CNN

CNN的卷积过程可以变化成两种形式

（a）相当于展开X，K的每一行都是一个通道的卷积核。

（b）先将input拉成一个长条，将K展开成（Coutput,Cinput）形式K,OCNN通过对K操作，实现矩阵K的正交化。

通过对K进行正交化的操作，在不增加很多参数和计算量的情况下，减少特征冗余。

所以我们希望矩阵K能够实现:

行正交化：

Ir0的意思是

列正交化

另外kernel orthogonal regularization是orthogonal convolution的必要条件

kernel orthogonal regularization：

推导过程在补充材料里，下次看看吧

参考：https://blog.csdn.net/MTandHJ/article/details/105716261

           Wang J ,  Chen Y ,  Chakraborty R , et al. Orthogonal Convolutional Neural Networks[J].  2019.