CNN手写数字识别1——模型搭建与数据准备

模型搭建

我们这次使用LeNet模型，LeNet是一个经典的卷积神经网络（Convolutional Neural Network, CNN）架构，最初由Yann LeCun等人在1998年提出，用于手写数字识别任务

创建一个文件model.py。实现以下代码。

源码 # 导入PyTorch库 import torch # 从PyTorch库中导入神经网络模块 from torch import nn # 从torchsummary库中导入summary函数，用于打印模型的结构和参数数量 from torchsummary import summary # 定义LeNet类，它继承自nn.Module，是一个神经网络模型 class LeNet(nn.Module): # 初始化函数，定义模型的层次结构 def __init__(self): # 调用父类的初始化函数 super().__init__() # 第一个卷积层，输入通道为1，输出通道为6，卷积核大小为5x5，padding为2 self.c1 = nn.Conv2d(in_channels=1, out_channels=6, kernel_size=5, padding=2) # Sigmoid激活函数 self.sig = nn.Sigmoid() # 第一个平均池化层，池化窗口为2x2，步长为2 self.s2 = nn.AvgPool2d(kernel_size=2, stride=2) # 第二个卷积层，输入通道为6，输出通道为16，卷积核大小为5x5 self.c3 = nn.Conv2d(in_channels=6, out_channels=16, kernel_size=5) # 第二个平均池化层，池化窗口为2x2，步长为2 self.s4 = nn.AvgPool2d(kernel_size=2, stride=2) # Flatten层，用于将多维的输入一维化，以便输入到全连接层 self.flatten = nn.Flatten() # 第一个全连接层，输入特征数为400，输出特征数为120 self.f5 = nn.Linear(400, 120) # 第二个全连接层，输入特征数为120，输出特征数为84 self.f6 = nn.Linear(120, 84) # 第三个全连接层，输入特征数为84，输出特征数为10（通常对应分类任务中的类别数） self.f7 = nn.Linear(84, 10) # 前向传播函数，定义数据通过网络的方式 def forward(self, x): x = self.sig(self.c1(x)) # 通过第一个卷积层和Sigmoid激活函数 x = self.s2(x) # 通过第一个平均池化层 x = self.sig(self.c3(x)) # 通过第二个卷积层和Sigmoid激活函数 x = self.s4(x) # 通过第二个平均池化层 x = self.flatten(x) # 通过Flatten层 x = self.sig(self.f5(x)) # 通过第一个全连接层和Sigmoid激活函数 x = self.sig(self.f6(x)) # 通过第二个全连接层和Sigmoid激活函数 x = self.sig(self.f7(x)) # 通过第三个全连接层和Sigmoid激活函数 return x # 主函数 if __name__ == "__main__": # 自动检测是否有可用的GPU，如果有则使用GPU，否则使用CPU device = torch.device("cuda" if torch.cuda.is_available() else "cpu") # 实例化LeNet模型，并将其移动到指定的设备上（GPU或CPU） model = LeNet().to(device) # 使用torchsummary的summary函数打印模型的结构和参数数量，输入形状为(1, 28, 28) print(summary(model, (1, 28, 28))) 源码解析 神经网络构建

LeNet网络主要由卷积层、池化层、激活函数和全连接层组成。有2个卷积层，2个池化层，3个全连接层。

‌卷积层‌（nn.Conv2d）：用于提取图像中的特征。这里有两个卷积层，第一个卷积层有6个输出通道，第二个卷积层有16个输出通道，卷积核大小都是5x5。‌激活函数‌（nn.Sigmoid）：用于引入非线性，使得网络能够学习更复杂的模式。这里使用了Sigmoid激活函数。‌池化层‌（nn.AvgPool2d）：用于降低特征图的尺寸，减少计算量，同时保留重要特征。这里使用了平均池化层，池化窗口大小为2*2，步长为2。‌Flatten层‌（nn.Flatten）：用于将多维的特征图展平成一维向量，以便输入到全连接层。‌全连接层‌（nn.Linear）：用于分类任务，将特征向量映射到类别空间。这里有三个全连接层，分别将特征维度从400降到120，再从120降到84，最后从84降到10（对应10个类别）。 参数计算

从代码中可以看到每一层神经网络都有自己的参数，这里面通道数，卷积核大小，步长和感受野，一定程度上可以当做超参数人为自由设定，其他的参数都需要事先根据输入数据进行计算。

首先，假设输入的图像数据大小都是28*28*1，即宽28个像素，高28个像素，由于是灰度图所以色彩通道只有1。

在第一个卷积层c1，卷积核大小是5*5，卷积核个数是6个，步长默认是1，填充是2，这些是我们人为设定的。可可以得出输出通道数=卷积核个数=6，经过这一层的输出数据通道数为6，尺寸通过公式计算：

 

公式里面O是输出的宽/高，IN是输入的宽/高，P是填充，F是卷积核的宽/高或者感受野的宽/高，S是步长。

即输出图像的宽高是(28+2*2-5)/1+1=28。输出数据量是28*28*6。可以看到卷积层可以有效提升数据的通道数。

在第一个池化层s2，感受野是2*2，步长是2，填充默认是0，可以计算出输出图像的宽高是(28+2*0-2)/2+1=14。可以看到经过池化层之后数据的特征量明显减少，此时输出的数据量是14*14*6（池化不会改变通道数）。

在第二个卷积层c3，卷积核大小是5*5，步长默认是1，填充默认是0，有16个卷积核，也就是通道数增加到了16。根据公式可以计算出输出图像的宽高是(14+2*0-5)/1+1=10。输出数据量是10*10*16。

在第二个池化层s4，感受野是2*2，步长为2，那么输出数据宽高就是(10+2*0-2)/2+1=5。输出数据量是5*5*16。

到全连接层的第一层就比较关键了，因为这里的参数有一个“输入特征数”，也就是刚才算的5*5*16=400。如果前面的计算不对，到了这一步模型是会报错的，因此每一层的输出特征量都需要计算出来。

后面的全连接层就比较好写了，输入的特征量是上一层全连接层的神经元个数。

前向传播

前向传播定义了数据通过网络的方式。对于输入x，它首先通过第一个卷积层和Sigmoid激活函数，然后通过第一个平均池化层；接着通过第二个卷积层和Sigmoid激活函数，再通过第二个平均池化层；最后通过Flatten层将多维特征展平成一维向量，并依次通过三个全连接层和Sigmoid激活函数得到最终输出。

验证

在主函数中，我们首先检测是否有可用的GPU，并将模型移动到合适的计算设备上（GPU或CPU）。然后，我们使用torchsummary的summary函数打印模型的结构和参数数量，以便了解模型的复杂度和计算需求。

从图中可以看出，池化层是不包含参数的，整个模型的大部分参数都在全连接层（48120+10164+850 = 59134，将近6万个参数在伺候全连接层）。

数据准备

FashionMNIST是一个流行的数据集，包含了10种类别的70,000个灰度图像，通常用于计算机视觉和机器学习的教学与研究。我们这次通过远程下载的方式来获取数据。

另外创建一个plot.python。用来下载数据和预览数据。这部分代码可写可不写，模型训练的时候还会重新加载数据。

源码 # 导入必要的库和模块 from torchvision import transforms # 用于图像预处理的变换 from torchvision.datasets import FashionMNIST # 导入FashionMNIST数据集 import torch.utils.data as Data # 用于数据加载的实用工具 import numpy as np # 导入NumPy库，用于数值计算 import matplotlib.pyplot as plt # 准备训练数据 train_data = FashionMNIST( root='./data', # 数据集存储的根目录 train=True, # 指定为训练数据集 transform=transforms.Compose([ # 图像预处理步骤 transforms.Resize(size=224), # 将图像大小调整为224x224 transforms.ToTensor() # 将图像转换为PyTorch张量 ]), download=True # 如果数据集不存在，则下载 ) # 创建数据加载器 train_loader = Data.DataLoader( dataset=train_data, # 指定数据集 batch_size=64, # 每个批次的大小 shuffle=True, # 在每个epoch开始时打乱数据 num_workers=0 # 使用0个工作线程（对于Windows系统，有时需要设置为0以避免多进程问题） ) # 遍历数据加载器 for step, (b_x, b_y) in enumerate(train_loader): if step > 0: # 只处理第一个批次的数据 break # 将PyTorch张量转换为NumPy数组 batch_x = b_x.squeeze().numpy() # 移除批次维度（如果可能），并转换为NumPy数组 batch_y = b_y.numpy() # 将标签转换为NumPy数组 # 获取数据集中的类别标签 class_label = train_data.classes # 这是一个包含所有类别名称的列表 # 打印类别标签 print(class_label) # 输出类别标签列表 # 设置图形的大小 plt.figure(figsize=(12, 5)) # 遍历batch_y中的每一个元素，即每一个样本的标签 for ii in np.arange(len(batch_y)): # 创建子图，4行16列，第ii+1个子图 # 这里假设一个批次有64个样本，因此用4x16的布局来显示它们 plt.subplot(4, 16, ii + 1) # 显示图像 # batch_x[ii, :, :]表示第ii个样本的图像数据 # cmap=plt.cm.gray指定使用灰度色彩映射 plt.imshow(batch_x[ii, :, :], cmap=plt.cm.gray) # 设置标题为对应的类别标签 # class_label[batch_y[ii]]根据标签索引获取类别名称 # size=10设置标题字体大小 plt.title(class_label[batch_y[ii]], size=10) # 关闭坐标轴显示 plt.axis("off") # 调整子图之间的间距 # wspace=0.05设置子图之间的宽度间距 plt.subplots_adjust(wspace=0.05) # 显示图形 plt.show() 源码解析 下载和加载数据

首先准备训练数据。FashionMNIST数据集将被下载到指定的根目录，并进行图像预处理

为了高效地加载数据，我们使用PyTorch的DataLoader来创建数据加载器。

dataloader的参数解释如下：

dataset：指定要加载的数据集。batch_size：每个批次加载的样本数。shuffle：是否在每个epoch开始时打乱数据。num_workers：加载数据时使用的工作线程数。在Windows系统上，有时需要设置为0以避免多进程问题。 展示数据

我们遍历数据加载器，但只处理第一个批次的数据（为了简化示例）。使用squeeze()方法移除批次维度（如果可能），并将PyTorch张量转换为NumPy数组，以便使用matplotlib进行可视化。随后使用matplotlib的subplot()方法创建子图，并在每个子图中显示一个图像样本。我们使用灰度色彩映射（cmap=plt.cm.gray）来显示图像。最后，使用plt.show()方法显示图形。