CUDA加速比opencv原函数慢

Question

请问一下，我用C++尝试复现你的yolov5高性能预处理，可是发现比opencv原函数还要慢很多，请问这是正常的吗？

代码基本与https://blog.csdn.net/qq_40672115/article/details/127012332?ops_request_misc=%257B%2522request%255Fid%2522%253A%2522dddc376af8d95bd956bfd336337566f5%2522%252C%2522scm%2522%253A%252220140713.130102334..%2522%257D&request_id=dddc376af8d95bd956bfd336337566f5&biz_id=0&utm_medium=distribute.pc_search_result.none-task-blog-2~all~sobaiduend~default-1-127012332-null-null.142^v100^pc_search_result_base8&utm_term=%E9%A2%84%E5%A4%84%E7%90%86%E9%AB%98%E6%80%A7%E8%83%BD&spm=1018.2226.3001.4449
一致
fee是高性能实现,fee2是原函数实现，慢了上百倍，这是怎么回事呢？

Answer 1

你不能这样测试，因为核函数的启动需要调用一些资源比较耗时，你可以先做一个 warmup，然后循环执行 N 次取平均，可以参考 tensorRT_Pro 的测试方法，他测试模型推理耗时时就是这么做的，https://github.com/shouxieai/tensorRT_Pro/blob/main/src/application/app_yolo.cpp#L64