解读TensorRT中的DEFINE_BUILTIN_OP_IMPORTER宏定义

在 ONNX-TensorRT 项目中，有一个非常重要的宏定义叫做 DEFINE_BUILTIN_OP_IMPORTER。这个宏的主要作用是在导入 ONNX 模型时，帮助解析并注册特定的操作符（Operator）。具体实现如下：

// 1. 声明一个函数；2. 将函数指针注册到 map 中（用于导入 ONNX 模型时解析）；3. 提供函数的具体实现
#define DEFINE_BUILTIN_OP_IMPORTER(op) \
NodeImportResult import##op(IImporterContext* ctx, \::ONNX_NAMESPACE::NodeProto const& node, \std::vector& inputs); \static const bool op##_registered_builtin_op = \registerBuiltinOpImporter(#op, import##op); \IGNORE_UNUSED_GLOBAL(op##_registered_builtin_op); \NodeImportResult import##op(IImporterContext* ctx, \::ONNX_NAMESPACE::NodeProto const& node, \std::vector& inputs)

当实际使用这个宏时，例如：

DEFINE_BUILTIN_OP_IMPORTER(Conv);

宏的工作流程可以分解为以下几个步骤：

• 前几行代码的作用是声明一个函数，该函数名为 import##op，其中 op 是传递给宏的实际操作符名称，如 Conv。
• 接下来的两行代码通过调用 registerBuiltinOpImporter 函数，将操作符名称和对应的函数指针注册到一个全局映射表中，以便在导入 ONNX 模型时能够快速查找并调用相应的处理函数。
• 最后的部分则是提供 import##op 函数的具体实现，这部分实现了如何根据 ONNX 节点信息和输入张量或权重来执行具体的导入逻辑。

通过这种方式，ONNX-TensorRT 项目能够高效地支持多种 ONNX 操作符的导入，从而实现对复杂神经网络模型的有效转换和优化。