为了让分割模型的结果保留每个像素点的置信度,修改onnx模型(删除argmax层),重新转trt时发生报错
这类报错在网上搜不到特别有用的情况,于是用onnxruntime跑一遍产生问题的onnx模型,报错如下
可以看出是output层和上一层之间的数据类型不匹配
继续查找资料发现有大神已经做过此类修改方法
https://blog.csdn.net/weixin_43945848/article/details/122486725
把输出层的elem_type修改为1后,问题解决。output能输出包含每个像素点类别概率的矩阵,输出变为 分割类别数量 * 长 * 宽(原先只输出每个分割类别时,输出为 1 * 长 * 宽)。
版权声明:本文为Goodbye_Despair原创文章,遵循CC 4.0 BY-SA版权协议,转载请附上原文出处链接和本声明。