openvino部署

Question

请问一下，为什么在Python上训练好的pt模型，用c++部署到openvino上检测效果变得很差，检测框乱飞

Answer 1

上午好☀️☀️☀️️
本答案参考ChatGPT-3.5

可能出现这种情况的原因有以下几种：

1. 模型转换不成功。 当从Python转换到C++时，模型的结构可能会改变。因此，需要确保转换的模型格式是支持 C++ 推理引擎的，并确保实现了适当的转换。

2. 计算机能力不足。 在主机 CPU 上推理模型可能会比在 GPU 上推理时慢很多，因此可能需要更高性能的设备来处理模型。

3. 输入数据问题。 在 Python 中，输入数据可能与在 C++ 中不同，因此要确保在 C++ 中的输入完全相同。

4. 编码错误。 检查转换后的模型代码是否与编写的 Python 代码一致。例如，如果使用不同的算法，则可能会出现框不准确的情况。重点是在检测模型的输出结果方案是否一致。

解决这些问题的方法：

1. 使用支持 C++ 推理引擎的模型，确保正确地进行转换。

2. 使用更高性能的设备来加速模型推理。

3. 根据 C++ 中的输入更改 Python 中的输入，确保在两个环境中的输入一致。

4. 检查转换后的模型代码是否有误，确保在 C++ 和 Python 代码中使用相同的算法，确保检测的输出方案一致。

希望这些解决方法能帮助到您。