亚博直播 李洪义机器学习笔记5:CNN卷积神经网络

日期:2021-03-26 02:52:12 浏览量: 126

先生。李洪义的机器学习课程和吴恩达先生的机器学习课程都是ML和DL的很好的入门资料。您可以在YouTube,网易云课堂和B站上观看相应的课程视频。接下来,在这一系列博客中,我将记录课堂上的老师笔记以及我对这些知识内容的理解和补充。 (此注释与李洪义老师的视频效果更好!)

第7课:CNN

内容

一、 CNN的介绍

二、 CNN的层次结构

三、 CNN的小型演示加深了对CNN的理解

四、 CNN的功能

在学习本课知识之前,让我们首先了解有关CNN的知识,让我们对CNN有所了解。卷积神经网络(CNN)是一种前馈神经网络(Feedforward Neural Networks),它包括卷积计算并具有较深的结构。它是深度学习的代表性算法之一,被广泛应用于计算机视觉,图像处理等领域。在CNN中cnn卷积神经网络的优点,卷积层的神经元仅连接到前一层的某些神经元节点,即其神经元之间的连接未完全连接亚博app安全有保障im体育平台 ,并且同一层中某些神经元之间的连接权重为总结偏移量是共享的(即相同),这大大减少了所需的训练参数的数量。

卷积神经网络CNN的结构通常包含以下几层:

输入层:用于数据输入

卷积层:使用卷积核进行特征提取和特征映射

激励层:由于卷积也是线性运算,因此需要添加非线性映射

池层:下采样华体会首页 ,特征图的稀疏处理,减少了数据计算量。

全连接层:通常在CNN的尾部重新装配以减少特征信息的丢失

输出层:用于输出结果

上面是主要的层次结构,当然,中间也可以使用其他一些功能层:

批量归一化:CNN中功能的归一化

切片分层:分别学习不同区域中的某些(图片)数据

融合层:融合独立执行特征学习的分支

接下来,我们将输入我们的主要主题!

一、在阅读了以上介绍之后,肯定会有以下问题:

为什么CNN对图像处理有如此好的效果?

计算机如何识别我们手动输入的图片?

机器图像识别的过程:机器图像识别不能一次完全识别复杂的图像,而是将完整的图像分为许多小部分,并提取每个小部分的特征。 (即识别每个小部分),然后将这些小部分的特征汇总在一起亚博买球 ,就可以完成图像的机器识别过程。

为什么CNN用于图像:与完全连接的神经网络相比,CNN使用的参数要少得多。为什么CNN可以用更少的参数进行图像处理以获得更好的性能结果?这是因为图像具有以下三个特征:

([1)某些模式比整个图片小很多,例如,“鸟嘴”比整个图片小很多。

cnn卷积神经网络 优化_cnn卷积神经网络的优点_cnn卷积神经网络基础

cnn卷积神经网络的优点

(2)相同的图案可能出现在图像的不同区域,例如,“鸟嘴”可能出现在图片的左上方或图片的中间;

cnn卷积神经网络的优点

([3)图像的下采样不会改变图像中的对象。

cnn卷积神经网络的优点

CNN卷积层的设计对应于前两点,池化层的设计对应于第三点。

cnn卷积神经网络的优点

二、 CNN的层次结构

1.卷积层

简而言之,卷积实际上是连接神经网络的一种方式。正是由于这种卷积方式,使得CNN的参数远小于完全连接的神经网络的参数。

([1)对于通道号为1的黑白图片,卷积方法如下:

cnn卷积神经网络的优点

cnn卷积神经网络的优点

cnn卷积神经网络的优点

([2)对于彩色,通道数为3张图片

cnn卷积神经网络的优点

特定的卷积过程(以帮助您更好地理解):

(3)卷积和完全连接之间的比较表明,使用卷积的连接方法比完全连接方法需要更少的参数。

cnn卷积神经网络的优点

接下来,让我们从另一个角度来看卷积连接方法

cnn卷积神经网络的优点

cnn卷积神经网络的优点

([4)卷积层和激励层通常结合在一起,称为“卷积层”

由于卷积层的计算仍然是线性计算,因此激励层主要在卷积层的输出上执行非线性映射,然后将映射结果输入到池化层。所使用的激励函数通常是ReLu函数:卷积层和激励层通常结合在一起,称为“卷积层”。

2.池化层

池化层也称为下采样,其功能是在保留有用信息的同时减少数据处理量

cnn卷积神经网络基础_cnn卷积神经网络 优化_cnn卷积神经网络的优点

当输入通过卷积层时,如果视场相对较小并且织物长度跨度相对较小,则生成的特征图(特征图)仍然相对较大,并且每个特征的降维操作可以通过池化图层执行地图cnn卷积神经网络的优点,输出深度保持不变,仍然是要素地图的数量。

池化层还具有一个``池化视场(过滤器)'',用于扫描特征图矩阵并计算``池化视场''中的矩阵值。通常有两种计算方法:

以Max池为例,请参见下图:

cnn卷积神经网络的优点

cnn卷积神经网络的优点

cnn卷积神经网络的优点

3.完全连接的层

功能:将所有局部特征组合为全局特征,以计算每个类别的最终得分

换句话说,全连接层是将卷积层和池化层的输出扩展为一维形式,然后是与普通网络具有相同结构的回归网络或分类网络,通常是连接的到池层,如图所示;

cnn卷积神经网络的优点

4.输出层

不需要引入输出层。它是结果的预测值。通常,添加一个softmax,并且损失函数通常是交叉熵。

三、了解CNN的层次结构,现在让我们通过演示来加深对CNN的了解

cnn卷积神经网络的优点_cnn卷积神经网络 优化_cnn卷积神经网络基础

CNN用于手写数字识别。我在博客上对此演示进行了详细介绍。欢迎浏览。

cnn卷积神经网络的优点

cnn卷积神经网络的优点

cnn卷积神经网络的优点

四、 CNN的主要特征

在这里,我们主要讨论CNN与传统神经网络之间的差异。 CNN具有三个主要特征凤凰体育App ,即局部感知,权重共享和多个卷积核

1.局部感知

本地感知是我们上面提到的接受领域。实际上,当卷积核与图像进行卷积时,卷积核所覆盖的像素每次仅占一小部分,这是局部特征,因此被称为局部感知。 CNN是一个从部分到整体的过程(部分到整体的实现在完全连接的层中),而传统的神经网络是整个过程。详细信息如下图所示

cnn卷积神经网络的优点

2.体重分配

传统神经网络的参数量非常大。例如,将1000X1000像素的图片映射到与其自身相同的尺寸。它需要(1000X100 0)平方,是10到12的幂),并且参数的数量太大。除了CNN的完全连接层之外,卷积层的参数完全取决于滤波器的大小,例如10x10的过滤器,因此参数只有100个,当然,过滤器的数量不止一个,这就是以下的多卷积内核。但是与传统的神经网络相比,参数的数量很小,而且计算量很小,整个图片共享一组过滤参数。

3.多个卷积核

卷积内核代表一个特征。为了获得更多不同的特征集,卷积层将具有多个卷积内核以生成不同的特征。这就是卷积后的图像高的原因,每张图片代表一个不同的特征。

参考资料: