开发笔记:百度飞桨学习——七日打卡作业五人识别

篇首语：本文由编程笔记#小编为大家整理，主要介绍了百度飞桨学习——七日打卡作业五人识别相关的知识，希望对你有一定的参考价值。

任务简介

图像分类是计算机视觉的重要领域，它的目标是将图像分类到预定义的标签。近期，许多研究者提出很多不同种类的神经网络，并且极大的提升了分类算法的性能。本文以自己创建的数据集：青春有你2中选手识别为例子，介绍如何使用PaddleHub进行图像分类任务。这次的作业难度开始上升，目标是识别5个人的照片

环境搭建

这里使用的是飞桨的在线环境 https://aistudio.baidu.com/,我这里用的GPU

#CPU环境启动请务必执行该指令
#%set_env CPU_NUM=1
#安装paddlehub
!pip install paddlehub==1.6.0 -i https://pypi.tuna.tsinghua.edu.cn/simple


加载模型

由于是图像分类任务，因此我们使用经典的ResNet-50作为预训练模型。PaddleHub提供了丰富的图像分类预训练模型，包括了最新的神经网络架构搜索类的PNASNet，我们推荐您尝试不同的预训练模型来获得更好的性能。

这个模型的模型说明： https://www.paddlepaddle.org.cn/modelbasedetail/resnet

import paddlehub as hub
module = hub.Module(name="resnet_v2_50_imagenet")


数据准备

我们使用自定义的数据进行体验

数据集的规则：PaddleHub适配自定义数据完成finetune

from paddlehub.dataset.base_cv_dataset import BaseCVDataset

class DemoDataset(BaseCVDataset):
def __init__(self):
# 数据集存放位置

self.dataset_dir = "dataset"
super(DemoDataset, self).__init__(
base_path=self.dataset_dir,
train_list_file="train_list.txt",
validate_list_file="validate_list.txt",
test_list_file="test_list.txt",
label_list_file="label_list.txt",
)
dataset = DemoDataset()


生成数据读取器

接着生成一个图像分类的reader，reader负责将dataset的数据进行预处理，接着以特定格式组织并输入给模型进行训练。

当我们生成一个图像分类的reader时，需要指定输入图片的大小

data_reader = hub.reader.ImageClassificationReader(
image_width=module.get_expected_image_width(),
image_height=module.get_expected_image_height(),
images_mean=module.get_pretrained_images_mean(),
images_std=module.get_pretrained_images_std(),
dataset=dataset)


配置策略

在进行Finetune前，我们可以设置一些运行时的配置，例如如下代码中的配置，表示：

• 
  use_cuda：设置为False表示使用CPU进行训练。如果您本机支持GPU，且安装的是GPU版本的PaddlePaddle，我们建议您将这个选项设置为True；


• 
  epoch：迭代轮数；


• 
  batch_size：每次训练的时候，给模型输入的每批数据大小为32，模型训练时能够并行处理批数据，因此batch_size越大，训练的效率越高，但是同时带来了内存的负荷，过大的batch_size可能导致内存不足而无法训练，因此选择一个合适的batch_size是很重要的一步；


• 
  log_interval：每隔10 step打印一次训练日志；


• 
  eval_interval：每隔50 step在验证集上进行一次性能评估；


• 
  checkpoint_dir：将训练的参数和数据保存到cv_finetune_turtorial_demo目录中；


• 
  strategy：使用DefaultFinetuneStrategy策略进行finetune；

更多运行配置，请查看RunConfig

同时PaddleHub提供了许多优化策略，如AdamWeightDecayStrategy、ULMFiTStrategy、DefaultFinetuneStrategy等，详细信息参见策略

config = hub.RunConfig(
use_cuda=True, #是否使用GPU训练，默认为False；
num_epoch=5, #Fine-tune的轮数；
checkpoint_dir="cv_finetune_turtorial_demo",#模型checkpoint保存路径, 若用户没有指定，程序会自动生成；
batch_size=5, #训练的批大小，如果使用GPU，请根据实际情况调整batch_size；
eval_interval=10, #模型评估的间隔，默认每100个step评估一次验证集；
strategy=hub.finetune.strategy.DefaultFinetuneStrategy()) #Fine-tune优化策略；


组建Finetune Task

有了合适的预训练模型和准备要迁移的数据集后，我们开始组建一个Task。

由于该数据设置是一个二分类的任务，而我们下载的分类module是在ImageNet数据集上训练的千分类模型，所以我们需要对模型进行简单的微调，把模型改造为一个五分类模型：

获取module的上下文环境，包括输入和输出的变量，以及Paddle Program；

从输出变量中找到特征图提取层feature_map；

在feature_map后面接入一个全连接层，生成Task；

input_dict, output_dict, program = module.context(trainable=True)
img = input_dict["image"]
feature_map = output_dict["feature_map"]
feed_list = [img.name]
task = hub.ImageClassifierTask(
data_reader=data_reader,
feed_list=feed_list,
feature=feature_map,
num_classes=dataset.num_labels,
config=config)


开始Finetune

我们选择finetune_and_eval接口来进行模型训练，这个接口在finetune的过程中，会周期性的进行模型效果的评估，以便我们了解整个训练过程的性能变化。

run_states = task.finetune_and_eval()


预测

当Finetune完成后，我们使用模型来进行预测，先通过以下命令来获取测试的图片

import numpy as np
import matplotlib.pyplot as plt
import matplotlib.image as mpimg
with open("dataset/test_list.txt","r") as f:
filepath = f.readlines()
data = [filepath[0].split(" ")[0],filepath[1].split(" ")[0],filepath[2].split(" ")[0],filepath[3].split(" ")[0],filepath[4].split(" ")[0]]
label_map = dataset.label_dict()
index = 0
run_states = task.predict(data=data)
results = [run_state.run_results for run_state in run_states]
for batch_result in results:
print(batch_result)
batch_result = np.argmax(batch_result, axis=2)[0]
print(batch_result)
for result in batch_result:
index += 1
result = label_map[result]
print("input %i is %s, and the predict result is %s" %
(index, data[index - 1], result))


输出结果

[2020-04-26 19:57:14,983] [ INFO] - PaddleHub predict start
[2020-04-26 19:57:14,984] [ INFO] - The best model has been loaded
share_vars_from is set, scope is ignored.
[2020-04-26 19:57:15,301] [ INFO] - PaddleHub predict finished.
[array([[9.48078156e-01, 7.49536611e-09, 2.55834404e-02, 2.63373181e-02,
1.05431093e-06],
[2.98482919e-04, 9.49996829e-01, 2.62831600e-04, 1.30926250e-02,
3.63491662e-02],
[6.39940496e-04, 3.37380150e-08, 9.98618841e-01, 7.22580648e-04,
1.86218040e-05],
[1.47535587e-07, 1.22062795e-08, 6.63531637e-06, 9.99992490e-01,
7.06393450e-07],
[8.04419324e-06, 2.05739434e-06, 1.02607771e-06, 6.20427090e-05,
9.99926805e-01]], dtype=float32)]
[0 1 2 3 4]
input 1 is dataset/test1/yushuxin.jpg, and the predict result is 虞书欣
input 2 is dataset/test1/xujiaqi.jpg, and the predict result is 许佳琪
input 3 is dataset/test1/zhaoxiaotang.jpg, and the predict result is 赵小棠
input 4 is dataset/test1/anqi.jpg, and the predict result is 安崎
input 5 is dataset/test1/wangchengxuan.jpg, and the predict result is 王承渲


由此我们可以得到的答案与照片的实际(即人名)是一一对应的。模型预测成功