图像被噪声破坏会影响卷积神经网络（CNN）的性能。在预处理过程中，经常会对噪声图像进行恢复，能提升CNN的分类性能。然而，由于噪声的高密度，噪声图像可能在预处理步骤中不能完全恢复，因此会对CNN的学习和验证产生负面影响。此外，去除噪声的预处理是一个昂贵和耗时的过程。因此，一种用于噪声图像分类的抗噪声鲁棒性卷积神经网络(NR-CNN)被提出[1]，它不需要进行去噪的预处理。这种方法对各种类型的噪声具有鲁棒性，如脉冲噪声、缺失的图像样本、图像传输中的丢包、损坏图像和篡改图像。这种NR-CNN通过添加一个噪声图层和自适应调整大小层来修改基本卷积神经网络的体系结构，实现对噪声的鲁棒性，并考虑了在NR-CNN不同分量中噪声图像的分类。大量的实验证明了该NR-CNN在噪声图像分类中的有效性。

卷积层、池化层和全连接层是卷积神经网络的主要组成部分。卷积层由几个包含特征图的卷积核收集。对于分类问题，softmax函数通常应用于输出层(CNN的最后一层)。用于分类的CNN参数的最优值 (如权向量和偏差项)可以通过最小化损失函数来实现。接下来介绍NR-CNN的组成部分。

1. 噪声图层

该NR-CNN有一个放置在NR-CNN开始地方的噪声图层，该图层可用于检测脉冲噪声、缺失的图像样本、图像传输丢包、损坏图像、篡改图像。噪声图层检测各种类型的噪声，并为每个图像产生一个的噪声层来表示有噪声和未损坏的图像。噪声图层的结构如图1所示。

图1. 噪声图层的架构

从图1可以看出，脉冲噪声是通过局部一致性索引方法检测[2]。图像传输中的丢包基于图像内容进行检测[3]。此外，缺失的图像样本用目标区域进行检测[4]，受损图像使用统计方法检测[5]，篡改的图像使用图像身份验证方法进行检测[6]。

在所提方法中，为了增强CNN对噪声的鲁棒性，在前面的步骤中为每个图像生成一个基于噪声类型的噪声图。如图2所示，每幅图像包含四个通道：噪声图通道，红色通道，蓝色通道和绿色通道。因此，图像是通过四个通道传送给CNN的。在基于噪声图的训练过程中，NR-CNN学习处理噪声像素。  

图2. 每个图像有四个通道。

2. 自适应调整层

卷积神经网络通常从卷积层开始。CNN的输入图像一般有一个固定的大小（即244*244)。因此，图像的维度比CNN的尺度要大时，应该减小其维度。 在NR-CNN中，一个新的层（称为自适应调整大小层）被放置在CNN以增加网络对噪声的鲁棒性。自适应调整大小层的任务是提高用于较大图像的降维方法。在利用噪声图从几个像素中选取一个像素来减小图像尺寸时，噪声像素被移除，利用剩下的像素实现降维处理。自适应调整层使噪声像素不参与在CNN输入图像的降维过程中。具有自适应调整大小层的CNN的开始部分如图3所示。  

图3. 具有自适应调整层的CNN的开始部分

3. 对噪声的自适应卷积层

卷积层参数包括一组可学习的滤波器。在NR-CNN中，通过自适应滤波为CNN对噪音的鲁棒性提供了一种有效的方法，从而实现了对CNN卷积层结构的改进。  

3.1 自适应滤波

该方法通过丢弃卷积的源和核之间的噪声连接，减小噪声对CNN的影响。自适应滤波基于CNN中那些能提高分类精度的像素值，来执行丢弃噪声连接。丢弃噪音连接能阻止输入的噪声像素进入到下一层。这种丢弃噪声连接的方法可用于不同的卷积核尺寸。值得一提的是，噪声图在每一层都会更新。

3.2 自适应步幅

这里提出的自适应步幅在算法1中进行了描述，提高了噪声图像的分类精度。

算法1：

1 制作一个位矩阵作为步幅图

2 在每个步幅中标记所选像素

3 匹配噪声图和步幅图，检测噪声像素

4 将滤波器的位置从有噪声的区域更改为最接近w*w的未损坏的区域

修正自适应步幅图可以使噪声像素在分类过程中不被考虑。如图4所示，噪声图与步幅图最初是匹配在一起的，然后执行步幅操作。w*w是搜索找到用于改变过滤器位置的最近的未损坏位置的区域。

图4. 基于噪声图的CNN自适应步长。 有噪声的像素用黑色表示。

此后，再经过针对噪声的自适应池化层和基于噪声图的数据增广等过程。

总结

我们可以将NR-CNN的优点总结为如下:

1. 该方法可同时用于CNN对几种类型噪音的鲁棒性分析。具有不同噪声类型的图像只需要该NR-CNN处理一次。

2. 该NR-CNN无需噪声图像恢复的预处理，并能在训练阶段加速这些图像的分类。

3. 该NR-CNN的性能优于其他噪声图像的分类方法。

参考文献

[1] M. Momeny, A. M. Latif, M. A. Sarram, R. Sheikhpour, Y. D. Zhang, A noise robust convolutional neural network for image classification. Results in Engineering, 20 (2021) 100225.

[2] X. Xiao, N.N. Xiong, J. Lai, C.-D. Wang, Z. Sun, J. Yan, A local consensus index

scheme for random-valued impulse noise detection systems, IEEE Trans. Syst. Man,

Cybern. Syst. (2019) 1–17.

[3] G. Nikolakopoulos, P. Stavrou, D. Tsitsipis, D. Kandris, A. Tzes, T. Theocharis, A dual scheme for compression and restoration of sequentially transmitted images over Wireless Sensor Networks, Ad Hoc Netw. 11 (2013) 410–426

.

[4] A. Javaheri, H. Zayyani, F. Marvasti, Sparse recovery of missing image samples using a convex similarity index, Signal Process. 152 (2018) 90–103.

[5] R.G. Everitt, R.H. Glendinning, A statistical approach to the problem of restoring damaged and contaminated images, Pattern Recogn. 42 (2009) 115–125.

[6] C. Qin, C.C. Chang, K.N. Chen, Adaptive self-recovery for tampered images based on VQ indexing and inpainting, Signal Process. 93 (2013) 933–946.