简述
查了很久,还是没找到我对应的问题的解决方案。最后还是大佬给来一个可行的代码,我才找到的。
batch size太大了。(最大可能问题)- cude和cudnn版本之间冲突。(很少见,一般都可以,我给一个可行版本,我的是cude11,cudnn8)
amp(fp16)和tf32的选择问题。(我遇到的就是这个,这个其实是这个报错的本来含义emmmm)
解决方案
选一个执行即可,第二个大概率不用(作为最后方案)
batch size设置的小一点- 重装cuda或者cudnn
- 将
fp16设置为tf32
参考:
- https://developer.nvidia.com/zh-cn/blog/accelerating-tensorflow-on-a100-gpus/
版权声明:本文为a19990412原创文章,遵循CC 4.0 BY-SA版权协议,转载请附上原文出处链接和本声明。