使用DeBERTa报错: CUDA error: CUBLAS_STATUS_NOT_INITIALIZED when calling `cublasCreate(handle)`

Question

使用DeBERTa模型在GPU运行报错: RuntimeError: CUDA error: CUBLAS_STATUS_NOT_INITIALIZED when calling cublasCreate(handle) , 但用bert_base_chinese模型却是可以正常运行的，是什么原因呀？

model.to(device) # 此处报错

RuntimeError: CUDA error: CUBLAS_STATUS_NOT_INITIALIZED when calling cublasCreate(handle)

是什么原因呀？该如何改动呀？

Answer 1

参考：

RuntimeError: CUDA error: CUBLAS_STATUS_NOT_INITIALIZED when calling `cublas‘_Love向日葵的兮兮子的博客-CSDN博客 调用nn.linear时出现RuntimeError: CUDA error: CUBLAS_STATUS_NOT_INITIALIZED when calling `cublas’错误，搜索网上资料，主要指出以下原因：batch size太大（本人将batchsize设置成4，够小吧！还是不行。。。）CUDA版本和torch不匹配（本人cuda版本是10.1，pytorch版本安装的是cuda10.1+python3.8的pytorch1.6，不是这个原因）torch版本问题（调换版本依旧不行） https://blog.csdn.net/weixin_43994864/article/details/123396586