深度学习平台——PaddlePaddle参数优化与配置

本文主要介绍的是的有关于的百度飞桨的目标的检测的算法的实战案例。通过使用的百度飞桨来实现的对自己目标进行识别的。后面本人将继续深入原理来对的目标的检测的原理和算法和系统的来实现讲解。基于飞桨&＃xff08;PaddlePaddle&＃xff09;最大的优点就是的不需要想TensorFlow的版本一样复杂。配置简单。其次是的这个系统的的运行的操作也是简单的。同时兼容window10和Ubuntu系统。本文将深入得研究和学习了解的相关的网络的原理和网络的参数已经网络的选择。

简介

为了使配置过程更加自动化并减少配置错误&＃xff0c;PaddleDetection的配置管理采取了较为严谨的设计。

设计思想

目前主流框架全局配置基本是一个Python dict&＃xff0c;这种设计对配置的检查并不严格&＃xff0c;拼写错误或者遗漏的配置项往往会造成训练过程中的严重错误&＃xff0c;进而造成时间及资源的浪费。为了避免这些陷阱&＃xff0c;从自动化和静态分析的原则出发&＃xff0c;PaddleDetection采用了一种用户友好、 易于维护和扩展的配置设计。

基本设计

利用Python的反射机制&＃xff0c;PaddleDection的配置系统从Python类的构造函数抽取多种信息 - 如参数名、初始值、参数注释、数据类型&＃xff08;如果给出type hint&＃xff09;- 来作为配置规则。 这种设计便于设计的模块化&＃xff0c;提升可测试性及扩展性。

API

配置系统的大多数功能由 ppdet.core.workspace 模块提供

• register: 装饰器&＃xff0c;将类注册为可配置模块&＃xff1b;能够识别类定义中的一些特殊标注。
  • __category__: 为便于组织&＃xff0c;模块可以分为不同类别。
  • __inject__: 如果模块由多个子模块组成&＃xff0c;可以这些子模块实例作为构造函数的参数注入。对应的默认值及配置项可以是类名字符串&＃xff0c;yaml序列化的对象&＃xff0c;指向序列化对象的配置键值或者Python dict&＃xff08;构造函数需要对其作出处理&＃xff0c;参见下面的例子&＃xff09;。
  • __op__: 配合 __append_doc__ &＃xff08;抽取目标OP的 注释&＃xff09;使用&＃xff0c;可以方便快速的封装PaddlePaddle底层OP。
• serializable: 装饰器&＃xff0c;利用 pyyaml 的序列化机制&＃xff0c;可以直接将一个类实例序列化及反序列化。
• create: 根据全局配置构造一个模块实例。
• load_config and merge_config: 加载yaml文件&＃xff0c;合并命令行提供的配置项。

示例

以 RPNHead 模块为例&＃xff0c;该模块包含多个PaddlePaddle OP&＃xff0c;先将这些OP封装成类&＃xff0c;并将其实例在构造 RPNHead 时注入。

# excerpt from &＃96;ppdet/modeling/ops.py&＃96;
from ppdet.core.workspace import register, serializable# ... more operators&＃64;register
&＃64;serializable
class GenerateProposals(object):# NOTE this class simply wraps a PaddlePaddle operator__op__ &＃61; fluid.layers.generate_proposals# NOTE docstring for args are extracted from PaddlePaddle OP__append_doc__ &＃61; Truedef __init__(self,pre_nms_top_n&＃61;6000,post_nms_top_n&＃61;1000,nms_thresh&＃61;.5,min_size&＃61;.1,eta&＃61;1.):super(GenerateProposals, self).__init__()self.pre_nms_top_n &＃61; pre_nms_top_nself.post_nms_top_n &＃61; post_nms_top_nself.nms_thresh &＃61; nms_threshself.min_size &＃61; min_sizeself.eta &＃61; eta# ... more operators# excerpt from &＃96;ppdet/modeling/anchor_heads/rpn_head.py&＃96;
from ppdet.core.workspace import register
from ppdet.modeling.ops import AnchorGenerator, RPNTargetAssign, GenerateProposals&＃64;register
class RPNHead(object):"""RPN HeadArgs:anchor_generator (object): &＃96;AnchorGenerator&＃96; instancerpn_target_assign (object): &＃96;RPNTargetAssign&＃96; instancetrain_proposal (object): &＃96;GenerateProposals&＃96; instance for trainingtest_proposal (object): &＃96;GenerateProposals&＃96; instance for testing"""__inject__ &＃61; [&＃39;anchor_generator&＃39;, &＃39;rpn_target_assign&＃39;, &＃39;train_proposal&＃39;,&＃39;test_proposal&＃39;]def __init__(self,anchor_generator&＃61;AnchorGenerator().__dict__,rpn_target_assign&＃61;RPNTargetAssign().__dict__,train_proposal&＃61;GenerateProposals(12000, 2000).__dict__,test_proposal&＃61;GenerateProposals().__dict__):super(RPNHead, self).__init__()self.anchor_generator &＃61; anchor_generatorself.rpn_target_assign &＃61; rpn_target_assignself.train_proposal &＃61; train_proposalself.test_proposal &＃61; test_proposalif isinstance(anchor_generator, dict):self.anchor_generator &＃61; AnchorGenerator(**anchor_generator)if isinstance(rpn_target_assign, dict):self.rpn_target_assign &＃61; RPNTargetAssign(**rpn_target_assign)if isinstance(train_proposal, dict):self.train_proposal &＃61; GenerateProposals(**train_proposal)if isinstance(test_proposal, dict):self.test_proposal &＃61; GenerateProposals(**test_proposal)

对应的yaml配置如下&＃xff0c;请注意这里给出的是 完整 配置&＃xff0c;其中所有默认值配置项都可以省略。上面的例子中的模块所有的构造函数参数都提供了默认值&＃xff0c;因此配置文件中可以完全略过其配置。

test_proposal:eta: 1.0min_size: 0.1nms_thresh: 0.5post_nms_top_n: 1000pre_nms_top_n: 6000train_proposal:eta: 1.0min_size: 0.1nms_thresh: 0.5post_nms_top_n: 2000pre_nms_top_n: 12000anchor_generator:# ...rpn_target_assign:# ...

RPNHead 模块实际使用代码示例。

from ppdet.core.workspace import load_config, merge_config, createload_config(&＃39;some_config_file.yml&＃39;)
merge_config(more_config_options_from_command_line)rpn_head &＃61; create(&＃39;RPNHead&＃39;)
# ... code that use the created module!

配置文件用可以直接序列化模块实例&＃xff0c;用 ! 标示&＃xff0c;如

LearningRate:base_lr: 0.01schedulers:- !PiecewiseDecaygamma: 0.1milestones: [60000, 80000]- !LinearWarmupstart_factor: 0.3333333333333333steps: 500

安装依赖

配置系统用到两个Python包&＃xff0c;均为可选安装。

• typeguard 在Python 3中用来进行数据类型验证。
• docstring_parser 用来解析注释。

如需安装&＃xff0c;运行下面命令即可。

pip install typeguard http://github.com/willthefrog/docstring_parser/tarball/master

相关工具

为了方便用户配置&＃xff0c;PaddleDection提供了一个工具 (tools/configure.py)&＃xff0c; 共支持四个子命令&＃xff1a;

1. list: 列出当前已注册的模块&＃xff0c;如需列出具体类别的模块&＃xff0c;可以使用 --category 指定。

2. help: 显示指定模块的帮助信息&＃xff0c;如描述&＃xff0c;配置项&＃xff0c;配置文件模板及命令行示例。

3. analyze: 检查配置文件中的缺少或者多余的配置项以及依赖缺失&＃xff0c;如果给出type hint&＃xff0c; 还可以检查配置项中错误的数据类型。非默认配置也会高亮显示。

4. generate: 根据给出的模块列表生成配置文件&＃xff0c;默认生成完整配置&＃xff0c;如果指定 --minimal &＃xff0c;生成最小配置&＃xff0c;即省略所有默认配置项。例如&＃xff0c;执行下列命令可以生成Faster R-CNN (ResNet backbone &＃43; FPN) 架构的配置文件:

python tools/configure.py generate FasterRCNN ResNet RPNHead RoIAlign BBoxAssigner BBoxHead LearningRate OptimizerBuilder

如需最小配置&＃xff0c;运行&＃xff1a;

python tools/configure.py generate --minimal FasterRCNN BBoxHead
博文参考