教你使用torchlayers来构建PyTorch模型（附链接）

作者&＃xff1a;Matthew Mayo  翻译&＃xff1a;王琦  校对&＃xff1a;和中华

本文约1200字&＃xff0c;建议阅读5分钟

本文介绍了torchlayers。torchlayers 旨在做Keras为TensorFlow所做的事情&＃xff0c;它提供了更高级的模型构建的API和一些方便的默认值以及附加功能&＃xff0c;这些功能对构建PyTorch神经网络很有用。

通过在线搜索的趋势判断&＃xff08;链接&＃xff1a;https://trends.google.com/trends/explore?date&＃61;today%205-y&geo&＃61;US&q&＃61;%2Fg%2F11gd3905v1&＃xff09;&＃xff0c;PyTorch继续受到人们的普遍关注&＃xff0c;更重要的是&＃xff0c;PyTorch的使用率在不断提高&＃xff08;链接&＃xff1a;https://www.kdnuggets.com/2020/01/openai-pytorch-adoption.html&＃xff09;。PyTorch被认为具有强大而灵活的特点&＃xff0c;这些特点让其受到了研究者的欢迎。然而&＃xff0c;PyTorch过去因缺乏简化的高级API&＃xff08;例如TensorFlow的Keras&＃xff09; 常常受到从业者的批评。但是这种情况最近已经改变了。

torchlayers&＃xff08;见下面链接&＃xff09; 旨在为PyTorch做Keras给TensorFlow所做的事情。这个项目的开发者简洁地定义了它&＃xff1a;

torchlayers是一个基于PyTorch的库&＃xff0c;提供了torch.nn层的形状和维度的自动推断以及当前最好的网络结构&＃xff08;例如Efficient-Net&＃xff09;中的构建块。

附链接&＃xff1a;

https://github.com/szymonmaszke/torchlayers

与Keras中的操作类似&＃xff0c;上述的操作不需要用户干预&＃xff08;除了调用一次torchlayers.build&＃xff09;。

除了上面提到的形状和维度的推断&＃xff0c;torchlayers 还包括其他类似Keras的层&＃xff0c;例如 torchlayers.Reshape&＃xff08;在改变输入张量形状的同时&＃xff0c;保留了批量的维度&＃xff0c;见下面链接1&＃xff09;&＃xff0c;包括之前在 ImageNet 竞赛中见过的最好的层&＃xff08;比如 PloyNet&＃xff0c;见下面链接2&＃xff09;。此外&＃xff0c;它还提供了一些有用的默认值&＃xff0c;例如卷积核的大小&＃xff08;torchlayers的默认值是3&＃xff09;。

附链接&＃xff1a;

链接1&＃xff1a;https://szymonmaszke.github.io/torchlayers/packages/torchlayers.html?highlight&＃61;reshape#torchlayers.Reshape

链接2&＃xff1a;https://szymonmaszke.github.io/torchlayers/packages/torchlayers.convolution.html?highlight&＃61;polynet#torchlayers.convolution.Poly

使用pip安装非常简单&＃xff1a;

pip install --user torchlayers  


其他的安装信息&＃xff08;关于Docker 镜像和GPU&＃xff09;可从这里获取&＃xff08;链接&＃xff1a;https://szymonmaszke.github.io/torchlayers/#installation&＃xff09;。完整的torchlayers文档可这里获取&＃xff08;链接&＃xff1a;https://szymonmaszke.github.io/torchlayers/&＃xff09;。

torchlayers 的GitHub 主页提供了一些例子来展示它的一些功能。我喜欢这个图像和文本分类二合一的例子&＃xff08;见下面链接&＃xff09;&＃xff01;我在下面附上了代码&＃xff0c;这例子展示了&＃xff1a;

• torch.nn 和 torchlayers 层的混合使用

• 形状和维度推断&＃xff08;卷积、线性输入和BatchNorm&＃xff09;

• 默认的卷积核v大小

• 卷积的填充默认为 “same”

• torchlayers池化层的使用&＃xff08;和Keras 相似&＃xff0c;全局最大池化&＃xff09;

附链接&＃xff1a;

https://github.com/szymonmaszke/torchlayers#simple-image-and-text-classifier-in-one

import torch  
import torchlayers as tl  # torch.nn and torchlayers can be mixed easily   
model &＃61; torch.nn.Sequential(  tl.Conv(64),                   # specify ONLY out_channels  torch.nn.ReLU(),               # use torch.nn wherever you wish  tl.BatchNorm(),                # BatchNormNd inferred from input  tl.Conv(128),                  # Default kernel_size equal to 3  tl.ReLU(),  tl.Conv(256, kernel_size&＃61;11),  # "same" padding as default  tl.GlobalMaxPool(),            # Known from Keras  tl.Linear(10),                 # Output for 10 classes  
)  


当指定输入形状后&＃xff08;对于上面定义好的模型&＃xff0c;图像和文本分类的输入形状如下所示&＃xff09;&＃xff1a;我们可以用 torchlayers.build&＃xff08;链接&＃xff1a;

https://szymonmaszke.github.io/torchlayers/packages/torchlayers.html?highlight&＃61;build#torchlayers.build&＃xff09;来构建一个已经定义好的网络。

# Image...  
mnist_model &＃61; tl.build(model, torch.randn(1, 3, 28, 28))  # ...or text  
# [batch, embedding, timesteps], first dimension > 1 for BatchNorm1d to work  
text_model &＃61; tl.build(model, torch.randn(2, 300, 1))  


build与Keras中的工作机制类似&＃xff0c;相当于将模型编译为PyTorch原语。它通过post_build 函数提供了一些附加功能&＃xff08;例如权重初始化&＃xff0c;如下所示&＃xff09;&＃xff0c;你可以从这个网页了解更多&＃xff08;链接&＃xff1a;https://szymonmaszke.github.io/torchlayers/packages/torchlayers.html?highlight&＃61;build#torchlayers.build&＃xff09;。

class _MyModuleImpl(torch.nn.Linear):  def post_build(self):  # You can do anything here really  torch.nn.init.eye_(self.weights)  


torchlayers为使用PyTorch来实现类似Keras的模型构建提供了一些有用的功能&＃xff0c;并填补了一个明显的空白。时间会告诉我们长期来看该项目会如何发展&＃xff0c;但这肯定是一个良好的开端。

相关文章&＃xff1a;

• OpenAI is Adopting PyTorch... They Aren’t Alone

  链接&＃xff1a;https://www.kdnuggets.com/2020/01/openai-pytorch-adoption.html

• Gentle Introduction to PyTorch 1.2 

  链接&＃xff1a;https://www.kdnuggets.com/2019/09/gentle-introduction-pytorch-12.html

• Tokenization and Text Data Preparation with TensorFlow & Keras

  链接&＃xff1a;https://www.kdnuggets.com/2020/03/tensorflow-keras-tokenization-text-data-prep.html

原文标题&＃xff1a;

Build PyTorch Models Easily Using torchlayers

原文链接&＃xff1a;

https://www.kdnuggets.com/2020/04/pytorch-models-torchlayers.html

END

转自&＃xff1a; 数据派THU 公众号&＃xff1b;

版权声明&＃xff1a;本号内容部分来自互联网&＃xff0c;转载请注明原文链接和作者&＃xff0c;如有侵权或出处有误请和我们联系。

合作请加QQ&＃xff1a;365242293  

数据分析&＃xff08;ID : ecshujufenxi &＃xff09;互联网科技与数据圈自己的微信&＃xff0c;也是WeMedia自媒体联盟成员之一&＃xff0c;WeMedia联盟覆盖5000万人群。