酷应用

教你使用torchlayers 来构建PyTorch 模型（附链接）

百家作者：数据分析 2020-05-08 14:00:37

作者：Matthew Mayo 翻译：王琦校对：和中华

本文约1200字，建议阅读5分钟

本文介绍了torchlayers。torchlayers 旨在做Keras为TensorFlow所做的事情，它提供了更高级的模型构建的API和一些方便的默认值以及附加功能，这些功能对构建PyTorch神经网络很有用。

通过在线搜索的趋势判断（链接：https://trends.google.com/trends/explore?date=today%205-y&geo=US&q=%2Fg%2F11gd3905v1），PyTorch继续受到人们的普遍关注，更重要的是，PyTorch的使用率在不断提高（链接：https://www.kdnuggets.com/2020/01/openai-pytorch-adoption.html）。PyTorch被认为具有强大而灵活的特点，这些特点让其受到了研究者的欢迎。然而，PyTorch过去因缺乏简化的高级API（例如TensorFlow的Keras）常常受到从业者的批评。但是这种情况最近已经改变了。

torchlayers（见下面链接）旨在为PyTorch做Keras给TensorFlow所做的事情。这个项目的开发者简洁地定义了它：

torchlayers是一个基于PyTorch的库，提供了torch.nn层的形状和维度的自动推断以及当前最好的网络结构（例如Efficient-Net）中的构建块。

附链接：

https://github.com/szymonmaszke/torchlayers

与Keras中的操作类似，上述的操作不需要用户干预（除了调用一次torchlayers.build）。

除了上面提到的形状和维度的推断，torchlayers 还包括其他类似Keras的层，例如 torchlayers.Reshape（在改变输入张量形状的同时，保留了批量的维度，见下面链接1），包括之前在 ImageNet 竞赛中见过的最好的层（比如 PloyNet，见下面链接2）。此外，它还提供了一些有用的默认值，例如卷积核的大小（torchlayers的默认值是3）。

附链接：

链接1：https://szymonmaszke.github.io/torchlayers/packages/torchlayers.html?highlight=reshape#torchlayers.Reshape

链接2：https://szymonmaszke.github.io/torchlayers/packages/torchlayers.convolution.html?highlight=polynet#torchlayers.convolution.Poly

使用pip安装非常简单：

pip install --user torchlayers

其他的安装信息（关于Docker 镜像和GPU）可从这里获取（链接：https://szymonmaszke.github.io/torchlayers/#installation）。完整的torchlayers文档可这里获取（链接：https://szymonmaszke.github.io/torchlayers/）。

torchlayers 的GitHub 主页提供了一些例子来展示它的一些功能。我喜欢这个图像和文本分类二合一的例子（见下面链接）！我在下面附上了代码，这例子展示了：

torch.nn 和 torchlayers 层的混合使用
形状和维度推断（卷积、线性输入和BatchNorm）
默认的卷积核v大小
卷积的填充默认为 “same”
torchlayers池化层的使用（和Keras 相似，全局最大池化）

附链接：

https://github.com/szymonmaszke/torchlayers#simple-image-and-text-classifier-in-one

import torch  import torchlayers as tl    # torch.nn and torchlayers can be mixed easily   model = torch.nn.Sequential(      tl.Conv(64),                   # specify ONLY out_channels      torch.nn.ReLU(),               # use torch.nn wherever you wish      tl.BatchNorm(),                # BatchNormNd inferred from input      tl.Conv(128),                  # Default kernel_size equal to 3      tl.ReLU(),      tl.Conv(256, kernel_size=11),  # "same" padding as default      tl.GlobalMaxPool(),            # Known from Keras      tl.Linear(10),                 # Output for 10 classes  )

当指定输入形状后（对于上面定义好的模型，图像和文本分类的输入形状如下所示）：我们可以用 torchlayers.build（链接：

https://szymonmaszke.github.io/torchlayers/packages/torchlayers.html?highlight=build#torchlayers.build）来构建一个已经定义好的网络。

# Image...  mnist_model = tl.build(model, torch.randn(1, 3, 28, 28))    # ...or text  # [batch, embedding, timesteps], first dimension > 1 for BatchNorm1d to work  text_model = tl.build(model, torch.randn(2, 300, 1))

build与Keras中的工作机制类似，相当于将模型编译为PyTorch原语。它通过post_build 函数提供了一些附加功能（例如权重初始化，如下所示），你可以从这个网页了解更多（链接：https://szymonmaszke.github.io/torchlayers/packages/torchlayers.html?highlight=build#torchlayers.build）。

class _MyModuleImpl(torch.nn.Linear):      def post_build(self):          # You can do anything here really          torch.nn.init.eye_(self.weights)

torchlayers为使用PyTorch来实现类似Keras的模型构建提供了一些有用的功能，并填补了一个明显的空白。时间会告诉我们长期来看该项目会如何发展，但这肯定是一个良好的开端。

相关文章：

OpenAI is Adopting PyTorch... They Aren’t Alone
链接：https://www.kdnuggets.com/2020/01/openai-pytorch-adoption.html
Gentle Introduction to PyTorch 1.2
链接：https://www.kdnuggets.com/2019/09/gentle-introduction-pytorch-12.html
Tokenization and Text Data Preparation with TensorFlow & Keras
链接：https://www.kdnuggets.com/2020/03/tensorflow-keras-tokenization-text-data-prep.html

原文标题：

Build PyTorch Models Easily Using torchlayers

原文链接：

https://www.kdnuggets.com/2020/04/pytorch-models-torchlayers.html

END

转自：数据派THU 公众号；

合作请加QQ：365242293

数据分析（ID : ecshujufenxi ）互联网科技与数据圈自己的微信，也是WeMedia自媒体联盟成员之一，WeMedia联盟覆盖5000万人群。