python内存结构_陈天奇：内存张量结构DLPack的PythonAPI来了

陈天奇&＃xff1a;内存张量结构DLPack的PythonAPI来了

新智元2021-02-28 14:25:22

【新智元导读】DLPack是一种开放的内存张量结构&＃xff0c;用于在框架之间共享张量&＃xff0c;近日&＃xff0c;开发者陈天奇更新社交媒体详细介绍了为DLPack添加PythonAPI、语义和实现细节的内容。

大家知道DLPack吗&＃xff1a;

深度学习从业人员或多或少都会有了解&＃xff0c;诸如 Tensorflow、PyTorch 等深度学习框架&＃xff0c;确实为深度学习的快速原型设计和模型部署提供了强大的工具箱。

但是&＃xff0c;不幸的是&＃xff0c;它们的易用性通常以碎片化为代价&＃xff1a;

他们仅仅限于对每个框架单独使用&＃xff0c;如果对框架进行垂直整合&＃xff0c;那么开发流程可以适用于常见用例&＃xff0c;但实际上&＃xff0c;打破常规可能会是个非常棘手的问题。

一种解决的方法是&＃xff0c;在内存中直接将张量从一个框架传递到另一个框架&＃xff0c;而不发生任何数据复制或拷贝。

而DLPack&＃xff0c;就是张量数据结构的中间内存表示标准&＃xff0c;它是一种开放的内存张量结构&＃xff0c;用于在框架之间共享张量。

它提供了一个简单、可移植的内存数据结构&＃xff1a;

DLPack使&＃xff1a;

在深度学习框架之间更轻松地共享操作员。

更容易包装供应商级别的运营商实施&＃xff0c;允许在引入新设备/操作时进行协作。

快速交换后端实现&＃xff0c;如不同版本的BLAS

对于最终用户来说&＃xff0c;这可以带来更多的运营商&＃xff0c;并且可以在框架之间混合使用。

下载地址&＃xff1a;

https://gitee.com/mirrors/DLPack

此外&＃xff0c;DLPack的开发者不打算实现Tensor和Ops&＃xff0c;而是将其用作跨框架重用张量和操作的公共桥梁。

此外&＃xff0c;最近&＃xff0c;DLPack的开发者陈天奇更新了一则Git&＃xff0c;标题为&＃xff1a;“为 DLPack 添加PythonAPI、语义和实现细节”&＃xff0c;在其中讨论了添加的详细内容、以及要引用DLPack本身的什么内容。

同时&＃xff0c;陈天奇还计划将一些文档导入DLPack&＃xff0c;目前&＃xff0c;DLPack没有任何关于Python级API的文档。

感兴趣的小伙伴可以去下面地址看一看&＃xff1a;

https://github.com/data-apis/consortium-feedback/issues/1