pytorch:CUDA out of memory

发表于 更新于 分类于 阅读次数： Disqus：

参考资料

  1. CSDN - pytorch出现RuntimeError: CUDA out of memory.
  2. pytorch模型提示超出内存cuda runtime error(2): out of memory

解决方法

  1. 最容易想到的就是调小batch size
  2. 在测试时，不需要更新模型了，使用torch.no_grad()
  3. 参考资料2 我的问题是调小batch_size，正常的第1个epoch不会出错，而训练第2个epoch一开始，出现了CUDA out of memory。解决方法参考资料2的前2条，实测有效。