跳转至

不能调用GPU

首先使用nvidia-smi命令检查GPU的使用情况

image-20220606124151522

以上红色框标记的分别为显存占用和GPU使用率。如果程序开始运行后:

  1. 显存无占用,那么可能是安装的框架为非GPU版本;还有一种原因是安培架构的GPU(30系列的卡、A40、A100、A5000等)需要使用CUDA11.X,如果安装的为使用CUDA10的框架,同样不能使用
  2. 显存有占用,GPU占用率不为0,但是波动较大,此时正常使用了GPU,可以优化程序使GPU利用率更高,参考帮助文档
  3. 显存有占用,但是GPU占用率一直为0。这种case可以分两种,一种是GPU本身出现故障,另一种是代码问题,需要检查代码。首先可以使用测试脚本点击下载进行测试,如果可以调用GPU运行则是代码问题,否则为GPU故障请联系微信客服处理或更换主机。