【mindspore】【mindspore导出onnx】报类型转换错误

问题已经解决，将kernel_size以tuple类型传入ops.Conv2D即可。原因是model.py部分使用了ops.Conv2D加weight组合的形式，传给Conv2D算子的kernel_size为int64类型, 而ops.Conv2D没有对此整型进行twice操作(nn.Conv2d算子中包含该操作)转换为tuple类型。该句得到的是空指针。代码: gitee中的mindspore/

小乐快乐

145人浏览 · 2022-10-29 10:55:33

小乐快乐 · 2022-10-29 10:55:33 发布

【操作步骤&问题现象】

代码: gitee中的mindspore/models/research/cv/advanced_east/export.py research/cv/advanced_east · MindSpore/models - 码云 - 开源中国 (gitee.com)

ckpt：mindspore hub中获取 MindSpore官网

运行环境: cpu

【截图信息】

问题已经解决，将kernel_size以tuple类型传入ops.Conv2D即可。原因是model.py部分使用了ops.Conv2D加weight组合的形式，传给Conv2D算子的kernel_size为int64类型, 而ops.Conv2D没有对此整型进行twice操作(nn.Conv2d算子中包含该操作)转换为tuple类型。这样会导致在执行onnx_exporter.cc中的SetAttrTupleValueToProto代码段时,无法将int64类型映射为ValueTuple类型，auto tuple_ptr = dyn_cast(value);该句得到的是空指针。