RuntimeError: CUDA error: CUBLAS_STATUS_ALLOC_FAILED when calling `cublasCreate(handle)`解决方案

【问题描述】

之前代码可以正常运行，后面扩充了数据集后，再在GPU跑深度学习训练模型的程序时报如下错误，但又没有提示CUDA out of memory。

RuntimeError: CUDA error: CUBLAS_STATUS_ALLOC_FAILED when calling `cublasCreate(handle)`

【解决办法1】

将程序改在cpu上运行，发现可以正常运行，但是这个速度会非常慢，耗费时间会比较久。

--device cpu

【解决办法2】

尝试调小了训练模型时用的batch size，可以正常运行。