cnn卷积神经网络模型架构

cnn卷积神经网络模型架构:(使用 MNIST 数据集为例)

[28,28] -卷积层-> [26,26] -卷积层-> [24,24] -池化层-> [12,12] -全连接层-> [512] -> [256] -> [64] -> [10]


其基本结构大致包含:

  • 卷积层。提取图像上的特征,定义卷积核。感受野(步长、卷积核大小、空洞大小)。
  • 池化层。也称采样层,通过减少网络参数,避免过拟合。最大池化层、均值池化层。
  • 激活函数。加入线性因素,提高特征表达能力。ReLU、Sigmoid、tanh、Leaky ReLU。
  • 全连接层。特征降维,将学习到的特征映射到标签。
  • 输出层。分类使用 softmax 分类函数、回归使用 线性函数。

rnn循环神经网络模型架构

rnn循环神经网络模型架构:(使用 IMDB 数据集为例)

  • 获取原始数据并生成数字码表。
  • 序列化处理(添加标志位、统一长度)并词向量编码。
  • 使用网络模型(SimpleRNN、LSTM、GRU)处理,添加 Dropout 层避免过拟合,然后 relu 激活函数,最终全连接层 Dense 输出最终结果。