更快更简单|飞桨PaddlePaddle单机训练速度优化最佳实践

导读&＃xff1a;飞桨&＃xff08;PaddlePaddle&＃xff09;致力于让深度学习技术的创新与应用更简单。在单机训练速度方面&＃xff0c;通过高并行、低开销的异步执行策略和高效率的核心算子&＃xff0c;优化静态图训练性能&＃xff0c;在Paddle Fluid v1.5.0的基准测试中&＃xff0c;在7个典型模型上进行了测试&＃xff08;图像领域5个&＃xff0c;NLP领域2个&＃xff09;&＃xff0c;其中5个模型的速度显著优于对标框架&＃xff08;大于15%&＃xff09;&＃xff0c;2个模型与对标框架持平&＃xff08;5%之内&＃xff09;。如果想让单机训练速度更快&＃xff0c;可以根据这篇文档的建议从网络构建、数据准备、模型训练三个方向了解飞桨单机训练中常用的优化方法。来一组测试数据先睹为快。

测试环境如下&＃xff1a;

•   PaddlePaddle version&＃xff1a;1.5.0

•   Tensorflow version&＃xff1a;1.12.0

•   PyTorch version&＃xff1a;1.1.0

•   MXNet version&＃xff1a;1.4.1

•   GPU&＃xff1a;Tesla V100-SXM2

•   CPU&＃xff1a;Intel(R) Xeon(R) Gold 6148 CPU &＃64; 2.40GHz&＃xff0c;38核

•   Nvida driver: 418.39

•   CUDNN VERSION&＃xff1a;7.4.2.24

•   CUDA VERSION&＃xff1a;9.0.176&＃xff0c;单卡模式

减少模型中Layer的个数

为方便用户使用&＃xff0c;飞桨提供一些不同粒度的Layer&＃xff0c;其中有些Layer的组合可以通过单个Layer完成。比如&＃xff1a;

(1)fluid.layers.softmax_with_cross_entropy&＃xff0c;该操作其实是fluid.layers.softmax和fluid.layers.cross_entropy的组合&＃xff0c;因此如果模型中有出现fluid.layers.softmax和fluid.layers.cross_entropy的组合&＃xff0c;可以直接用fluid.layers.softmax_with_cross_entropy替换。

(2)如果模型中需要对数据进行标准化&＃xff0c;可以直接使用fluid.layers.data_norm&＃xff0c;而不用通过一系列layer组合出数据的标准化操作。

因此&＃xff0c;建议在构建模型时优先使用飞桨提供的单个Layer完成所需操作&＃xff0c;这样减少模型中Layer的个数&＃xff0c;并因此加速模型训练。

数据准备通常分为两部分&＃xff1a;第一部分是数据加载&＃xff0c;即程序从磁盘中加载训练/预测数据&＃xff1b;第二部分是数据预处理&＃xff0c;程序对加载的数据进行预处理&＃xff0c;比如图像任务通常需要进行数据增强、Shuffle等。这两部分需要用户根据自己的模型需要进行设置&＃xff0c;只需要最后得到Data Reader接口即可。Data Reader返回iterable对象&＃xff0c;可以每次返回一条样本或者一组样本。代码示例如下&＃xff1a;

def data_reader (width, height):defreader():while True:
yield np.random.uniform(-1, 1,size&＃61;width*height), \np.random.randint(0,10)
return reader
train_data_reader &＃61; data_reader(32, 32)


飞桨提供了两种方式从Data Reader中读取数据&＃xff1a;同步数据读取和异步数据读取。

2.1 同步数据读取

同步数据读取是一种简单并且直观的数据准备方式&＃xff0c;代码示例如下&＃xff1a;

Image &＃61; paddle.layer.data("image",...)
label &＃61; paddle.layer.data("label",...)
# 模型定义
# ……
prediction &＃61; fluid.layers.fc(input&＃61; image,size&＃61;10)
loss &＃61; fluid.layers.cross_entropy(input&＃61;prediction, label&＃61; label)
avg_loss &＃61; fluid.layers.mean(loss)
# ……
# 读取数据
# paddle.dataset.mnist.train()返回数据读取的Reader,每次可以从Reader中读取一条样本&＃xff0c;batch_size为128
train_reader &＃61;paddle.batch(paddle.dataset.mnist.train(), 128)
end &＃61; time.time()
for batch_id, batch in enumerate(train_reader):data_time &＃61; time.time() - end# 训练网络executor.run(feed&＃61;[...], fetch_list&＃61;[...])batch_time &＃61; time.time() - endend&＃61; time.time()


用户首先需要通过fluid.layers.data定义模型的输入&＃xff0c;然后根据输入构建模型&＃xff0c;最后从事先自定义的Reader函数中获取一个batch的数据&＃xff0c;并将数据传递给执行器。

可以看出&＃xff0c;采用同步数据读取方式时&＃xff0c;用户可通过加入计时函数来统计数据准备部分和执行部分所占用的时间。由于数据准备和执行是顺序进行的&＃xff0c;所以程序的执行速度可能较慢。如果用户想进行模型调试的话&＃xff0c;同步数据读取是一个不错的选择。

更多同步数据读取的介绍请参考&＃xff1a;

https://www.paddlepaddle.org.cn/documentation/docs/en/1.5/user_guides/howto/prepare_data/reader.html

2.2 异步数据读取

飞桨里面使用py_reader接口来实现异步数据读取&＃xff0c;代码示例如下&＃xff1a;

train_py_reader &＃61; fluid.layers.py_reader(capacity&＃61;10,shapes&＃61;((-1, 784), (-1, 1)),dtypes&＃61;(&＃39;float32&＃39;, &＃39;int64&＃39;),name&＃61;"train_reader",use_double_buffer&＃61;True)
# 使用 read_file() 方法从py_reader中获取模型的输入
image, label &＃61; fluid.layers.read_file(reader)
# 模型定义
# ……
prediction &＃61; fluid.layers.fc(input&＃61; image,size&＃61;10)
loss &＃61; fluid.layers.cross_entropy(input&＃61;prediction, label&＃61; label)
avg_loss &＃61; fluid.layers.mean(loss)
# ……
# 读取数据
train_reader &＃61;paddle.batch(paddle.dataset.mnist.train(), 128)
train_py_reader.decorate_paddle_reader(train_reader)
# 启动py_reader
train_py_reader.start()
try:end&＃61; time.time()while True:print("queue size: ", train_py_reader.queue.size())loss, &＃61; executor.run(fetch_list&＃61;[...])# ...batch_time &＃61; time.time() - endend &＃61; time.time()batch_id &＃43;&＃61; 1
except fluid.core.EOFException:train_py_reader.reset()


用户首先需要通过fluid.layers.py_reader定义py_reader对象&＃xff0c;并使用 read_file() 方法从py_reader中获取模型的输入&＃xff0c;然后根据输入构建模型&＃xff0c;再然后用decorate_paddle_reader将自定义的Reader与py_reader绑定。在训练开始之前&＃xff0c;通过调用start()方法来启动数据读取。在数据读取结束之后&＃xff0c;executor.run会抛出fluid.core.EOFException&＃xff0c;表示训练已经遍历完Reader中的所有数据。

采用异步数据读取时&＃xff0c;Python端和C&＃43;&＃43;端共同维护一个数据队列&＃xff0c;Python端启动一个线程&＃xff0c;负责向队列中插入数据&＃xff0c;C&＃43;&＃43;端在训练/预测过程中&＃xff0c;从数据队列中获取数据&＃xff0c;并将该数据从对队列中移除。用户可以在程序运行过程中&＃xff0c;监测数据队列是否为空&＃xff0c;如果队列始终不为空&＃xff0c;表明数据准备的速度比模型执行的速度快&＃xff0c;这种情况下数据读取可能不是瓶颈。

另外&＃xff0c;飞桨提供的一些FLAGS也能很好的帮助分析性能。如果用户希望评估一下在完全没有数据读取开销情况下模型的性能&＃xff0c;可以设置一下环境变量&＃xff1a;FLAGS_reader_queue_speed_test_mode&＃xff0c;在该变量为True情况下&＃xff0c;C&＃43;&＃43;端从数据队列中获取数据之后&＃xff0c;不会从数据队列中移除&＃xff0c;这样能够保证数据队列始终不为空&＃xff0c;从而避免了C&＃43;&＃43;端读取数据时的等待开销。

需要特别注意的是&＃xff0c;FLAGS_reader_queue_speed_test_mode只能在性能分析时打开&＃xff0c;正常训练/预测模型时需要关闭。

为降低训练的整体时间&＃xff0c;建议用户使用异步数据读取的方式&＃xff0c;并开启 use_double_buffer&＃61;True 。用户可根据模型的实际情况设置数据队列的大小。如果数据准备的时间大于模型执行的时间&＃xff0c;或者出现了数据队列为空的情况&＃xff0c;就需要考虑对数据读取Reader进行加速。常用的方法是使用多进程准备数据&＃xff0c;

可以参考&＃xff1a;

https://github.com/PaddlePaddle/models/blob/develop/PaddleCV/yolov3/reader.py

更多异步数据读取的介绍请参考&＃xff1a;

https://www.paddlepaddle.org.cn/documentation/docs/en/1.5/user_guides/howto/prepare_data/use_py_reader_en.html

3.1 飞桨的执行器介绍

目前Python API中&＃xff0c;飞桨提供了fluid.compiler.CompiledProgram的概念&＃xff0c;用户可以通过CompiledProgram将传入的program(飞桨中的网络模型)进行编译&＃xff0c;如果希望采用数据并行模式训练&＃xff0c;只需要将CompiledProgram返回的对象调用一下with_data_parallel即可&＃xff0c;最后统一通过executor.run(…)执行compiled_program。

虽然统一通过executor.run(…)接口来执行&＃xff0c;实际底层的执行策略有两种&＃xff0c;对应C&＃43;&＃43;部分的两个执行器&＃xff0c;即Executor和ParallelExecutor&＃xff0c;如果用户采用数据并行模式&＃xff0c;C&＃43;&＃43;部分使用的是ParallelExecutor&＃xff0c;除此之外都是使用Executor。

这两个执行器的差别&＃xff1a;

可以看出&＃xff0c;Executor的内部逻辑非常简单&＃xff0c;但性能可能会弱一些&＃xff0c;因为Executor对于program中的操作是串行执行的。而ParallelExecutor首先会将program转变为计算图,并分析计算图中节点间的连接关系&＃xff0c;对图中没有相互依赖的节点&＃xff08;OP&＃xff09;&＃xff0c;通过多线程并行执行。

因此&＃xff0c;Executor是一个轻量级的执行器&＃xff0c;目前主要用于参数初始化、模型保存、模型加载。ParallelExecutor是Executor的升级版本&＃xff0c;目前ParallelExecutor主要用于模型训练&＃xff0c;包括单机单卡、单机多卡以及多机多卡训练。

ParallelExecutor执行计算图之前&＃xff0c;可以对计算图进行一些优化&＃xff0c;比如使计算图中的一些操作是In-place的、将计算图中的参数更新操作进行融合等。用户还可以调整Parallel Executor执行过程中的一些配置&＃xff0c;比如执行计算图的线程数等。这些配置分别是构建策略&＃xff08;BuildStrategy&＃xff09;和执行策略&＃xff08;ExecutionStrategy&＃xff09;参数来设置的。

一个简单的使用示例如下&＃xff1a;

build_strategy &＃61; fluid.BuildStrategy()
build_strategy.enable_inplace &＃61; True
build_strategy.fuse_all_optimizer_ops&＃61;Trueexec_strategy &＃61; fluid.ExecutionStrategy()
exec_strategy.num_threads &＃61; 4train_program &＃61; fluid.compiler.CompiledProgram(main_program).with_data_parallel(loss_name&＃61;loss.name,build_strategy&＃61;build_strategy,exec_strategy&＃61;exec_strategy)place &＃61; fluid.CUDAPlace(0)
exe &＃61; Executor(place)
# 使用py_reader读取数据&＃xff0c;因此执行时不需要feed
fetch_outs &＃61; exe.run(train_program, fetch_list&＃61;[loss.name],)


更多关于ParallelExecutor的介绍请参考&＃xff1a;

https://www.paddlepaddle.org.cn/documentation/docs/zh/1.5/api_guides/low_level/parallel_executor.html

更多关于CompiledProgram的介绍请参考&＃xff1a;

https://www.paddlepaddle.org.cn/documentation/docs/zh/1.5/api_guides/low_level/compiled_program.html

3.2 构建策略&＃xff08;BuildStrategy&＃xff09;配置参数介绍

BuildStrategy中提供了一些关于计算图优化的策略&＃xff0c;这些策略可以在不同程度上提升模型的训练速度&＃xff0c;但是其中一些策略与模型的结构有关&＃xff0c;比如fuse_all_optimizer_ops不支持sparse梯度&＃xff0c;我们正在积极的完善这些策略&＃xff0c;并在下一个版本将这些策略默认打开。

构建策略的详细介绍如下&＃xff1a;

参数说明&＃xff1a;

&＃xff08;1&＃xff09;关于 reduce_strategy &＃xff0c; Parallel Executor 对于数据并行支持两种参数更新模式&＃xff1a;AllReduce 和 Reduce 。在 AllReduce 模式下&＃xff0c;各个节点上计算得到梯度之后&＃xff0c;调用 AllReduce 操作&＃xff0c;梯度在各个节点上聚合&＃xff0c;然后各个节点分别进行参数更新。在 Reduce 模式下&＃xff0c;参数的更新操作被均匀的分配到各个节点上&＃xff0c;即各个节点计算得到梯度之后&＃xff0c;将梯度在指定的节点上进行 Reduce &＃xff0c;然后在该节点上进行参数的更新&＃xff0c;最后将更新之后的参数Broadcast到其他节点。

即&＃xff1a;如果模型中有100个参数需要更新&＃xff0c;训练使用的节点数为4&＃xff0c;在 AllReduce 模式下&＃xff0c;各个节点需要分别对这100个参数进行更新&＃xff1b;在 Reduce 模式下&＃xff0c;各个节点需要分别对这25个参数进行更新&＃xff0c;最后将更新的参数Broadcast到其他节点。注意&＃xff1a;如果是使用CPU进行数据并行训练&＃xff0c;在Reduce模式下&＃xff0c;不同CPUPlace 上的参数是共享的&＃xff0c;所以在各个CPUPlace 上完成参数更新之后不用将更新后的参数Broadcast到其他CPUPlace。

&＃xff08;2&＃xff09;关于 enable_backward_optimizer_op_deps &＃xff0c;在多卡训练时&＃xff0c;打开该选项可能会提升训练速度。

&＃xff08;3&＃xff09;关于 fuse_all_optimizer_ops &＃xff0c;目前只支持SGD、Adam和Momentum算法。注意&＃xff1a;目前不支持sparse参数梯度。

&＃xff08;4&＃xff09;关于 fuse_all_reduce_ops &＃xff0c;多GPU训练时&＃xff0c;可以对 AllReduce 操作进行融合&＃xff0c;以减少 AllReduce 的调用次数。默认情况下会将同一layer中参数的梯度的 AllReduce 操作合并成一个&＃xff0c;比如对于 fluid.layers.fc 中有Weight和Bias两个参数&＃xff0c;打开该选项之后&＃xff0c;原本需要两次 AllReduce 操作&＃xff0c;现在只用一次 AllReduce 操作。此外&＃xff0c;为支持更大粒度的参数梯度融合&＃xff0c;飞桨提供了 FLAGS_fuse_parameter_memory_size 选项&＃xff0c;用户可以指定融合AllReduce操作之后&＃xff0c;每个 AllReduce 操作的梯度字节数&＃xff0c;比如希望每次 AllReduce 调用传输64MB的梯度&＃xff0c;export FLAGS_fuse_parameter_memory_size&＃61;64 。注意&＃xff1a;目前不支持sparse参数梯度。

&＃xff08;5&＃xff09;关于 mkldnn_enabled_op_types &＃xff0c;目前飞桨的Op中可以使用mkldnn库计算的操作包括&＃xff1a;transpose, sum, softmax,requantize, quantize, pool2d, lrn, gaussian_random, fc, dequantize,conv2d_transpose, conv2d, conv3d, concat, batch_norm, relu, tanh, sqrt, abs.

3.3 执行策略&＃xff08;ExecutionStrategy&＃xff09;配置参数介绍

ExecutionStrategy中提供了关于计算图执行时的一些配置&＃xff0c;这些配置可能会影响模型的训练速度。同时&＃xff0c;这些配置与模型的结构有关&＃xff0c;如果用户希望模型训练速度更快&＃xff0c;可以调整一下这些配置。在后续的优化中&＃xff0c;我们会对这部分进行优化&＃xff0c;根据输入模型结构动态调整这些设置。

ExecutionStrategy配置选项说明&＃xff1a;

参数说明&＃xff1a;

&＃xff08;1&＃xff09;关于 num_iteration_per_drop_scope &＃xff0c;框架在运行过程中会产生一些临时变量&＃xff0c;通常每经过一个batch就要清理一下临时变量&＃xff0c;但是由于GPU是异步设备&＃xff0c;在清理之前需要对所有的GPU调用一次同步操作&＃xff0c;因此耗费的时间较长。为此我们在 execution_strategy 中添加了 num_iteration_per_drop_scope 选项。用户可以指定经过多少次迭代之后清理一次。

&＃xff08;2&＃xff09;关于 num_threads &＃xff0c;ParallelExecutor 根据OP之间的依赖关系确定OP的执行顺序&＃xff0c;即&＃xff1a;当OP的输入都已经变为ready状态之后&＃xff0c;该OP会被放到一个队列中&＃xff0c;等待被执行。ParallelExecutor 内部有一个任务调度线程和一个线程池&＃xff0c;任务调度线程从队列中取出所有Ready的OP&＃xff0c;并将其放到线程队列中。num_threads 表示线程池的大小。根据以往的经验&＃xff0c;对于CPU任务&＃xff0c;num_threads&＃61;2*dev_count 时性能较好&＃xff0c;对于GPU任务&＃xff0c;num_threads&＃61;4*dev_count 时性能较好。注意&＃xff1a;线程池不是越大越好。

Paddle Fluid中有一些FLAGS可以有助于性能优化&＃xff1a;

&＃xff08;1&＃xff09;FLAGS_cudnn_exhaustive_search表示在调用cuDNN中的卷积操作时&＃xff0c;根据输入数据的shape等信息&＃xff0c;采取穷举搜索的策略从算法库中选取到更快的卷积算法&＃xff0c;进而实现对模型中卷积操作的加速。需要注意的是&＃xff1a;

a. 在搜索算法过程中需要使用较多的显存&＃xff0c;如果用户的模型中卷积操作较多&＃xff0c;或者GPU卡显存较小&＃xff0c;可能会出现显存不足问题。

b. 通过穷举搜索选择好算法之后&＃xff0c;该算法会进入Cache&＃xff0c;以便下次运行时&＃xff0c;如果输入数据的shape等信息不变&＃xff0c;直接使用Cache中算法。

&＃xff08;2&＃xff09;FLAGS_enable_cublas_tensor_op_math表示是否使用TensorCore加速cuBLAS等NV提供的库中的操作。需要注意的是&＃xff0c;这个环境变量只在Tesla V100以及更新的GPU上适用&＃xff0c;且可能会带来一定的精度损失&＃xff0c;通常该损失不会影响模型的收敛性。

&＃xff08;1&＃xff09;尽可能的使用飞桨提供的单个layer实现所需操作。

&＃xff08;2&＃xff09;采用异步数据读取。

&＃xff08;3&＃xff09;模型训练相关优化&＃xff1a;

 a. 使用ParallelExecutor作为底层执行器&＃xff0c;代码示例&＃xff1a;

compiled_prog &＃61; compiler.CompiledProgram(fluid.default_main_program()).with_data_parallel(loss_name&＃61;loss.name)


如果是单卡训练&＃xff0c;也可以调用with_data_parallel方法。

b. 如果模型中参数的梯度都是非sparse的&＃xff0c;可以打开fuse_all_optimizer_ops选项&＃xff0c;将多个参数更新操作融合为一个。

c. 如果是多卡训练&＃xff0c;可以打开enable_backward_optimizer_op_deps、fuse_all_reduce_ops选项。如果想指定每次每次AllReduce操作的数据大小&＃xff0c;可以设置FLAGS_fuse_parameter_memory_size&＃xff0c;比如 export FLAGS_fuse_parameter_memory_size&＃61;1&＃xff0c;表示每次 AllReduce 调用传输1MB的梯度。

d. 使用CPU做数据并行训练时&＃xff0c;推荐使用Reduce模型&＃xff0c;因为在使用CPU进行数据并行训练时&＃xff0c;在Reduce模式下&＃xff0c;不同CPUPlace 上的参数是共享的&＃xff0c;所以在各个CPUPlace 上完成参数更新之后不用将更新后的参数Broadcast到其他CPUPlace上&＃xff0c;这对提升速度也有很大帮助。

e. 如果是Reduce模式&＃xff0c;可打开fuse_broadcast_ops选项。

f. 如果用户的模型较小&＃xff0c;比如mnist、language_model等&＃xff0c;可以将num_threads设为1。

g. 在显存足够的前提下&＃xff0c;建议将 exec_strategy.num_iteration_per_drop_scope 设置成一个较大的值&＃xff0c;比如设置为100 &＃xff0c;这样可以避免反复地申请和释放内存。

目前我们正在推进这些配置自动化的工作&＃xff1a;即根据输入的模型结构自动配置这些选项&＃xff0c;争取在下一个版本中实现&＃xff0c;敬请期待。

&＃xff08;4&＃xff09;FLAGS设置

FLAGS_cudnn_exhaustive_search &＃61; TrueFLAGS_enable_cublas_tensor_op_math &＃61; True 


不同的模型计算特征不同&＃xff0c;最优运行时配置也就不尽相同。大体来说&＃xff0c;主要是两种情况&＃xff0c;第一种情况&＃xff1a;模型组网OP数量少、OP的计算量大&＃xff0c;常见的如ResNet、VGG模型&＃xff0c;通过设置合适的batch_size&＃xff0c;这类模型很容易就可以将最大限度的利用GPU计算资源&＃xff0c;因此设置不同的执行器参数对总体速度影响可能不是很明显。第二种情况&＃xff1a;模型由大量的计算量很小的OP组成&＃xff0c;比如RNN模型&＃xff0c;这类模型则需要用户通过实验来选择运行时参数的最佳配置。因此&＃xff0c;我们以典型的语言模型&＃xff08;language model&＃xff09;为例&＃xff0c;了解一下上述优化策略的实际效果。

6.1 LSTM language model原理介绍

飞桨提供了论文《Recurrent Neural Network Regularization》中基于LSTM循环神经网络&＃xff08;RNN&＃xff09;的language model的开源实现。相比于传统的语言模型方法&＃xff0c;基于循环神经网络的语言模型方法能够更好地解决稀疏词的问题。

该模型的目的是给定一个输入的词序列&＃xff0c;预测下一个词出现的概率。

模型中采用了序列任务常用的RNN网络&＃xff0c;实现了一个两层的LSTM网络&＃xff0c;然后使用LSTM的结果去预测下一个词出现的概率。由于数据的特殊性&＃xff0c;每一个batch的last hidden和lastcell会作为下一个batch的init hidden和init cell。

6.2 language_model单GPU训练性能优化效果

language_model中提供了4种RNN运行模式&＃xff0c;分别为&＃xff1a;static、padding、cudnn和lstm_basic。本案例中测试的为static模式。language_model中同样提供了small、medium、large三种模型配置&＃xff0c;主要差别在于隐层的大小、RNN的步数、dropout比例上。我们对这个案例在模型配置、执行选项和数据读取三个方面都进行了优化&＃xff0c;我们依次测试了如下优化版本的结果&＃xff1a;

(1)Baseline版本

(2)设置exec_strategy.num_threads &＃61; device_count

(3)设置exec_strategy.num_iteration_per_drop_scope &＃61; 100

(4)设置build_strategy.enable_inplace &＃61; True&＃xff0c;build_strategy.memory_optimize &＃61; False

(5)设置build_strategy.fuse_all_optimizer_ops &＃61; True

(6)使用py_reader进行异步数据读取

(7)配置优化

•  reshape中设置inplace&＃61;True

• 使用split操作代替多次slice

优化前&＃xff1a;

for index in range(len):
input &＃61; layers.slice(input_embedding, axes&＃61;[1], starts&＃61;[index],ends&＃61;[index &＃43; 1])
…


优化后&＃xff1a;

sliced_inputs &＃61; layers.split(input_embedding,num_or_ps&＃61;len, dim&＃61;1)
for index in range(len):
input &＃61; sliced_inputs[index]
…


• 减少reshape的次数

优化前&＃xff1a;

for index in range(len):…
res.append(layers.reshape(input, shape&＃61;[1, -1,hidden_size]))real_res &＃61; layers.concat(res, 0)real_res &＃61; layers.transpose(x&＃61;real_res, perm&＃61;[1, 0, 2])
优化后&＃xff1a;
for index in range(len):…
res.append(input)real_res &＃61; layers.concat(res, 0)real_res &＃61; layers.reshape(real_res, shape&＃61;[len, -1, hidden_size],inplace&＃61;True)real_res &＃61; layers.transpose(x&＃61;real_res,perm&＃61;[1, 0, 2])


经过7个版本的优化&＃xff0c;small和large模型最终分别获得了1.64x和1.35x的加速。从实验结果可以看出&＃xff0c;即使是类似的网络结构&＃xff0c;调整运行参数产生加速效果也不同&＃xff0c;如设置exec_strategy.num_threads &＃61; device_count&＃xff0c;small模型获得了4.9%的加速&＃xff0c;large模型只获得0.8%的加速。另外&＃xff0c;异步数据读取对该模型总体训练时间的减少也不明显&＃xff0c;主要是因为这个模型的所使用的PTB数据集很小&＃xff0c;可以提前将所有数据读取到内存里&＃xff0c;因此训练时&＃xff0c;数据准备部分对整体时延的影响较小。

如果有兴趣的同学&＃xff0c;可以加入官方QQ群&＃xff0c;您将遇上大批志同道合的深度学习同学。官方QQ群&＃xff1a;432676488。

如果您想详细了解更多飞桨PaddlePaddle的相关内容&＃xff0c;请点击阅读原文或参阅以下文档。

官网地址&＃xff1a;https://www.paddlepaddle.org.cn?fr&＃61;gzh

本文提到的项目地址&＃xff1a;

• DeepLabV3&＃43;&＃xff1a;

  https://github.com/PaddlePaddle/models/tree/v1.5/PaddleCV/deeplabv3%2B

• YOLOv3&＃xff1a;

  https://github.com/PaddlePaddle/models/tree/v1.5/PaddleCV/yolov3

• BERT&＃xff1a;

  https://github.com/PaddlePaddle/ERNIE

• Mask-RCNN&＃xff1a;

  https://github.com/PaddlePaddle/models/tree/v1.5/PaddleCV/rcnn

• CycleGAN&＃xff1a;

  https://github.com/PaddlePaddle/models/tree/v1.5/PaddleCV/PaddleGAN/cycle_gan

• SE-ResNeXt50&＃xff1a;

  https://github.com/PaddlePaddle/models/tree/v1.5/PaddleCV/image_classification

• Transformer&＃xff1a;

  https://github.com/PaddlePaddle/models/tree/v1.5/PaddleNLP/models/neural_machine_translation/transformer

最后给大家推荐一个GPU福利 - Tesla V100免费算力&＃xff01;配合PaddleHub能让模型原地起飞&＃xff5e; 扫码下方二维码申请&＃xff5e;