作者简介:大家好,我是车神哥,府学路18号的车神磊
⚡About—>车神:从寝室到实验室最快3分钟,最慢3分半(那半分钟其实是等红绿灯)
个人主页:车手只需要车和手,压力来自论文_府学路18号车神_CSDN博客
磊 官方认证:人工智能领域优质创作者
点赞➕评论➕收藏 == 养成习惯(一键三连)⚡希望大家多多支持珞~一起加油
专栏
TensorFlow
从深度学习的简单任务开始,我们将从不同的深度学习框架来实现一个手写体识别任务,这个任务在深度学习领域可以说是和学习编程语言的第一步“Hello World”差不多。
主要的目的是为了可以直观的对比出不同深度学习框架下实现代码的差异性。我们均通过构建一个多层感知机模型来完成这个任务。
手写体识别任务- Keras
- ⚡Keras安装
- 手写体识别任务
- 多层感知机
- Keras代码
- ⚡*main函数
- 1. ⚡设置参数并加载数据集
- 2. ⚡定义神经网络
- 3. ⚡定义训练函数
- 4. ⚡定义预测函数
- 珞代码汇总
- 总结
- 往期框架
简单介绍一下Keras.
Keras是由纯python编写的基于theano/tensorflow的深度学习框架。
Keras是一个高层神经网络API,支持快速实验,能够把你的idea迅速转换为结果,如果有如下需求,可以优先选择Keras:
-
简易和快速的原型设计(keras具有高度模块化,极简,和可扩充特性)
-
支持CNN和RNN,或二者的结合
-
无缝CPU和GPU切换
更多的网路上也有很多了,不细细介绍了。
⚡Keras安装注意:keras一定要和你的TensorFlow版本匹配,因为我安装的TensorFlow是1.12.0版本的,keras2.2.4是与之匹配的
1.打开Anaconda prompt切换到有TensorFlow的环境下:
conda activate tf2
2.安装keras前先依次执行以下两个命令:
conda install mingw libpython pip install theano
3.最后执行安装keras的命令:
pip install keras==2.2.4手写体识别任务
这里我们用到的一个开放的手写体识别数据集:MNIST数据集。
目前应用相当的广泛,在许多论文和基础教程中都应用到了。
MNIST数据集来自美国国家标准与技术研究所。
数据集由250个不同的人手写的数字构成,其中50%来自高中生,50%来自人口普查局的工作人员。具体由如下4个部分组成:
- 训练图片集(training set images):train-images-idx3-ubyte.gz (包含60,000个样本)
- 训练图片标签(training set labels):train-labels-idxl-ubyte.gz (包含60,000个标签)
- 测试图片集(test set images):t10k-images-idx3-ubyte.gz (包含10,000 个样本)
- 测试图片标签(test set labels):t10k-labels-idxl-ubyte.gz (包含10,000个标签)
样例如下图所示:
多层感知机对于上面这样的数据集,我们构建一个三层神经网络模型,分别为输入层、隐含层、输出层。这是一个非常普通简单的神经网络模型,俗称为多层感知机(Mult-Layer Perceptron, MLP)。
整个模型如下图所示:
该神经网络包含三层,第一层(输入层)有784个神经元(每张手写体识别图像素均为28像素*28像素的图像),第二层(隐藏层)有200个神经元,最终层(输出层)有10个神经元(有数字0~9共有10个类别)。我们使用Sigmoid函数作为激活函数,将均方误差作为损失函数,使用Adam优化器,Learning Rate=0.01.
所有框架下的步骤均一致:
- 设置参数并加载数据集(大多数框架都有架子标准数据集的方法,如MNIST)
- 创建多层感知机(MLP)神经网络
- 定义训练函数,包括模型训练和模型存储
- 定义预测函数,包括模型导入和测试数据预测
- 创建main函数,让用户使用训练数据集进行训练,然后使用测试数据集进行测试
本案例用到的是:Keras==2.2.4
在下列代码中,将其整理为相同的格式以便比较,每份代码包含五部分:
- 设置参数并加载数据集
- 定义神经网络
- 定义训练函数
- 定义预测函数
- main函数
其中的main函数不变:
import argparse
if __name__=="__main__":
parser = argparse.ArgumentParser()
parser.add_argument("--action", type=str, default="predict")
FLAGS, unparsed = parser.parse_known_args()
if FLAGS.action == "train":
train()
if FLAGS.action == "predict":
predict()
运行代码的方法:
1. 训练:python MNIST.py --action train
2. 预测:python MNIST.py -- action predict1. ⚡设置参数并加载数据集
# 定义参数
inputs, hiddens, outputs = 784, 100, 10
learning_rate = 0.01
epochs = 50
batch_size = 64
# 导入数据集
(train_images, train_labels), (test_images, test_labels) = mnist.load_data()
train_images = train_images.reshape(-1, inputs).astype('float32')/255
train_labels = utils.to_categorical(train_labels, outputs)
test_images = test_images.reshape(-1, inputs).astype('float32')/255
test_labels = utils.to_categorical(test_labels, outputs)
运行结果:
Downloading data from https://s3.amazonaws.com/img-datasets/mnist.npz
8192/11490434 [..............................] - ETA: 5:04
40960/11490434 [..............................] - ETA: 2:02
90112/11490434 [..............................] - ETA: 1:22
196608/11490434 [..............................] - ETA: 50s
409600/11490434 [>.............................] - ETA: 29s
827392/11490434 [=>............................] - ETA: 16s
1466368/11490434 [==>...........................] - ETA: 10s
2564096/11490434 [=====>........................] - ETA: 6s
3399680/11490434 [=======>......................] - ETA: 4s
4530176/11490434 [==========>...................] - ETA: 3s
5267456/11490434 [============>.................] - ETA: 2s
8396800/11490434 [====================>.........] - ETA: 0s
9052160/11490434 [======================>.......] - ETA: 0s
10510336/11490434 [==========================>...] - ETA: 0s
11476992/11490434 [============================>.] - ETA: 0s
11493376/11490434 [==============================] - 3s 0us/step
2. ⚡定义神经网络
# 定义多层感知机结构
def mlp():
model = Sequential() # 顺序模型
model.add(Dense(hiddens, activation='sigmoid', input_shape=(inputs,)))
model.add(Dense(outputs, activation='sigmoid'))
return model
3. ⚡定义训练函数
# 定义训练函数
def train():
model = mlp()
sgd = optimizers.Adam(lr=learning_rate)
model.compile(optimizer=sgd, loss='mean_squared_error')
model.fit(train_images, train_labels, batch_size=batch_size, epochs=epochs)
model.save('mlp_model.h5')
4. ⚡定义预测函数
# 定义预测函数
def predict():
model = load_model('mlp_model.h5')
error = model.evaluate(test_images, test_labels)
print('accuracy:', 1 - error)
从上面的所有构建来看,Keras的语法很简单,清晰明了。省去了TensorFlow的会话操作,让其更关注模型本身。
比如,在定义神经网络结构时,Keras可以通过内置的Sequential函数在上面简单的叠加层构建网络,每层仅需要提供输入输出维度和指定激活函数。在训练时,仅需要定义优化器optimizer和损失函数类型,再使用fit函数对图像和标签进行训练。
最终,在训练完毕后保存模型;Keras的预测函数更为简单,我们只加载模型,然后使用来评估测试图像和标签就大功告成啦~
珞代码汇总到此我们已经构建完了所有的模型结构,让我们运行起来~
训练开始(在Terminal输入):
python MNIST.py --action train
预测开始:
python MNIST.py -action predict
# -- coding: utf-8 --
# @Time : 2022/5/17 10:54
# @Author : 府学路18号车神
# @File : MNIST.py
# @Software: PyCharm
import argparse
from keras.models import Sequential, load_model
from keras.datasets import mnist
from keras.layers import Dense
from keras import optimizers, utils
# 定义参数
inputs, hiddens, outputs = 784, 100, 10
learning_rate = 0.01
epochs = 50
batch_size = 64
# 导入数据集
(train_images, train_labels), (test_images, test_labels) = mnist.load_data()
train_images = train_images.reshape(-1, inputs).astype('float32')/255
train_labels = utils.to_categorical(train_labels, outputs)
test_images = test_images.reshape(-1, inputs).astype('float32')/255
test_labels = utils.to_categorical(test_labels, outputs)
# 定义多层感知机结构
def mlp():
model = Sequential() # 顺序模型
model.add(Dense(hiddens, activation='sigmoid', input_shape=(inputs,)))
model.add(Dense(outputs, activation='sigmoid'))
return model
# 定义训练函数
def train():
model = mlp()
sgd = optimizers.Adam(lr=learning_rate)
model.compile(optimizer=sgd, loss='mean_squared_error')
model.fit(train_images, train_labels, batch_size=batch_size, epochs=epochs)
model.save('mlp_model.h5')
# 定义预测函数
def predict():
model = load_model('mlp_model.h5')
error = model.evaluate(test_images, test_labels)
print('accuracy:', 1-error)
# main
if __name__=="__main__":
parser = argparse.ArgumentParser()
parser.add_argument("--action", type=str, default="predict")
FLAGS, unparsed = parser.parse_known_args()
if FLAGS.action == "train":
train()
if FLAGS.action == "predict":
predict()
总结
我们从代码来看,Keras框架确实很轻量化,简洁。Keras的底层库中使用了TensorFlow、Theano或者CNTK,这让Keras继承了它们的符号执行的特性。计算也是首先定义各种变量,然后建立计算图,等到把真正需要运算的输入放入以后,才能在模型中形成数据流,最后给出输出值。
但是既然结构简单,那么相应的问题也就来了。当Keras进行Debug时会很麻烦,主要原因还是底层库的适配问题。不过,有一说一,对于新手来说是相当友好的,也比较适合做快速的模型迭代。
往期框架
| 框架 | Blog |
|---|---|
| TensorFlow | 【深度学习框架】|TensorFlow|完成一个手写体识别任务 |
好了,第二个框架下实现手写体识别的任务就到这了,下次在换Pytorch框架来实现一下,下期再见哦~
❤坚持读Paper,坚持做笔记,坚持学习,坚持刷力扣LeetCode❤!!!
坚持刷题!!!
⚡To Be No.1⚡⚡哈哈哈哈
⚡创作不易⚡,过路能❤关注、收藏、点个赞❤三连就最好不过了
ღ( ´・ᴗ・` )
❤



