TensorFlow？PyTorch？Paddle？AI工具库生态之争：ONNX一统天下⛵

&＃x1f4a1; 作者&＃xff1a;韩信子&＃64;ShowMeAI
&＃x1f4d8; 深度学习实战系列&＃xff1a;https://www.showmeai.tech/tutorials/42
&＃x1f4d8; 本文地址&＃xff1a;https://www.showmeai.tech/article-detail/319
&＃x1f4e2; 声明&＃xff1a;版权所有&＃xff0c;转载请联系平台与作者并注明出处
&＃x1f4e2; 收藏ShowMeAI查看更多精彩内容

当今的很多AI算法落地&＃xff0c;我们都需要依赖特定的机器学习框架&＃xff0c;现在比较热门的 AI 工具库如 TensorFlow 和 PyTorch 都出自大厂&＃xff0c;并且有很好的生态和资源&＃xff0c;借助它们我们可以很快速完成典型的一些任务&＃xff0c;如图像分类或自然语言处理。

然而&＃xff0c;工具库和工具库之间的相互切换&＃xff0c;是一件很麻烦的事情&＃xff0c;比如某公司团队开发主要使用TensorFlow&＃xff0c;然而现在有一个深度算法&＃xff0c;需要使用 caffe2 部署在移动设备上&＃xff0c;那我们需要用 caffe2 重写模型重新训练&＃xff0c;这是一个非常耗时耗力的过程。

ONNX 便应运而生&＃xff0c;TensorFlow、Caffe2、PyTorch、paddlepaddle、Microsoft Cognitive Toolkit、Apache MXNet 等主流框架都对 ONNX 有着不同程度的支持。这就便于了我们的算法及模型在不同的框架之间的迁移。

ONNX&＃xff08;Open Neural Network Exchange&＃xff09;是一种针对机器学习所设计的开放式的文件格式&＃xff0c;用于存储训练好的模型。它使得不同的人工智能框架&＃xff08;如PyTorch&＃xff0c;TensorRT&＃xff0c;MXNet&＃xff09;可以采用相同格式存储模型数据并交互。 ONNX的规范及代码主要由微软&＃xff0c;亚马逊 &＃xff0c;Facebook 和 IBM 等公司共同开发&＃xff0c;以开放源代码的方式托管在Github上。

&＃x1f4a1; ONNX 官方资源

• &＃x1f4d8;ONNX 官方网站&＃xff1a;https://onnx.ai/

• &＃x1f4d8;ONNX 官方Github地址&＃xff1a;https://github.com/onnx/onnx

• 支持的工具库&＃xff1a;

&＃x1f4a1; 为什么需要ONNX

机器学习/深度学习的出现和蓬勃发展的背景下&＃xff0c;深度学习/机器学习模型训练与执行的框架/库的数量呈指数级增长。有两大原因促成这个增长&＃xff1a;

• 硬件供应商开发了自己的框架以实现垂直集成并使其更容易为他们的硬件开发模型
• 开发自己的框架以针对特定用例实现最佳性能的软件供应商

深度学习框架数量的激增导致整个AI生态系统碎片化&＃xff0c;也使跨框架或硬件生态系统的工作变得困难。ONNX 的诞生是为了消除框架之间以及不同硬件生态系统之间互操作性的障碍。

&＃x1f4a1; 什么是ONNX

ONNX 是一个开放规范&＃xff0c;包含以下定义&＃xff1a;

&＃x1f4cc; 计算图模型存储文件格式

模型&＃xff1a;是一个保存版本信息和元数据的非循环计算数据流图。

图&＃xff1a;包含模型中数据流图的名称、形成图的计算节点列表、图的输入和输出。

计算节点&＃xff1a;图中的每个计算节点都接受零个或多个 &＃x1f4d8;定义类型、一个或多个定义类型的输出以及特定节点对其输入执行的操作类型。

&＃x1f4cc; 标准数据类型

ONNX 作为标准支持以下数据类型列表&＃xff1a;

张量类型&＃xff1a;

• Int8、Int16、Int32、Int64
• Quantized Int
• uint8, uint16, uint32, uint64
• Float16, float, double
• Bool
• String
• Complex64, complex128

非张量类型&＃xff1a;

• Sequence
• Map
• Operators (Built-in/ Custom)

&＃x1f4cc; 算子/运算符

ONNX Graph 中的每个计算节点都执行特定的操作并产生一个或多个输出。 ONNX 标准定义了 &＃x1f4d8;运算符&＃xff0c;ONNX图支持的运算符列表也在不断拓展&＃xff0c;并通过 ONNX Opsets 保持最新状态。每次 ONNX Opset 更新都可能新增算子支持或改进现有算子。

&＃x1f4a1; ONNX的目标

ONNX 的核心设计理念是&＃xff1a;

• 互操作性
• 可移植性

如上图所示&＃xff0c;ONNX 希望通过提供一个高效的接口将模型从一个框架转换到另一个框架&＃xff0c;从而成为不同框架之间的中介。

下表中列出了将模型从一些最常见的AI框架转换为 ONNX 格式的工具。

&＃x1f4a1; ONNX实现与现状

实际上&＃xff0c;要满足将模型从任何其他AI框架转换为ONNX一直是一个挑战。主要障碍之一是这些AI框架生态的高速发展与每次版本迭代带来的新支持&＃xff08;例如算子等&＃xff09;。

模型从一个框架到另一个框架的转换归结为能够表示原始模型的基础数学运算。下图显示了每个框架中定义的运算符数量。实际上&＃xff0c;目前ONNX仅支持PyTorch所有算子的约13% &＃xff0c;一些使用低频 PyTorch 运算符构建的模型在转换时还是有困难。

不过像PyTorch这样的工具库里&＃xff0c;包含的很多运算符有这一样或者类似的功能&＃xff0c;是否需要完全同步支持也是一个问题。但ONNX开放了自定义运算符的功能&＃xff0c;使得用户可以 &＃x1f4d8;根据需要添加自己的功能。

即使目前 ONNX 还做不到完全支持和自由衔接所有AI工具框架&＃xff0c;但凭借丰富的运算符集&＃xff0c;ONNX已经可以描述来自各种框架的大多数 DNN 和 ML 模型。它的『函数』功能&＃xff0c;使得用户可以把暂时不支持的复杂的操作符用更原始的操作符来表达 。

它带来了AI生态的自由流通&＃xff0c;随着生态和社区的高速发展&＃xff0c;相信在未来ONNX会成为AI生态中最终的桥梁之一&＃xff0c;发挥巨大的作用。

参考资料

• &＃x1f4d8; ONNX 官方网站&＃xff1a;https://onnx.ai/
• &＃x1f4d8; ONNX 官方Github地址&＃xff1a;https://github.com/onnx/onnx