如何在tensorflow计算中使显卡满载

Question

环境：python 3.6、win10、tensorflow1.8
硬件：GTX1080Ti、E5-2680V2
问题：显卡计算不满载 计算速度慢
截图见下

好吧 截图上传不了 就是GPU总占用率１０％不到　compute＿０占用不到１５％

Answer 1

一。cuda_visible_devices 设置可见gpu，但是会将整个gpu占满，Gpu的实际使用率很低。使用tf.configproto.gpu_optional.allow_growth属性设为True时就可以文明使用gpu。
数据读取满，影响计算速度。
二。显卡使用率有规律的上下波动是正常的，因为要读取数据，不同layer显卡开销也不一样。如果总体上，显卡占用率越来越低，则可能是内存占满了，需要清理缓存。
1. 提高 Batch Size（直到显存爆掉）；
2. 减少层数；
3. 提高单层计算量（如增大 channels、kernel_size，减小 stride、group）；
4. 使用 cuDNN；
5. 如果只是前向计算，可以用 TensorRT；
建议楼主试试。