深度学习:卷积神经网络

卷积神经网络已然成为深度学习领域的重要组成,尤其是在图像处理领域发光发热。在此,我希望通过记叙卷积神经网络的本质、动机与特点来更好地理解它。

What

卷积神经网络,即包含卷积计算的神经网络。其特点如下:

  1. 卷积:在一般神经网络中,下一层的输入往往是该层的输出向量与权重向量的向量积;而在卷积神经网络中,权重不再为向量,而是一个矩形,下一层的输入便由该矩形中的每个元素与对应上一层输出的乘积加和而成。矩形一般仅仅为$3 \times 3, 5 \times 5$,而不像一般的权重向量,涵盖上一层全部输出。PS:一般需要在原图边缘padding上一些0,来保证卷积前后一样大。
  2. 池化:在卷积神经网络中还存在池化。池化是一个采样的过程,其使用矩形窗口,对原图进行不重复地覆盖,采样,使用窗口内最大值或均值代表采样值。

Why

卷积神经网络被广泛应用于计算机视觉领域。在卷积神经网络出现之前,一般使用普通的全连接神经网络处理计算机视觉。存在许多问题:

  1. 图片较高清,像素较多,训练难度大
  2. 图片向量化,丧失像素点间的位置关系信息,需要在训练中找回,训练更加困难

How

卷积神经网络通过卷积保留了位置信息,同时,也由于卷积核较小,减少了计算难度;而池化对图片的采样缩放,更是进一步降低了参数,提高计算可行性。