Cuda内存不足但没有空闲空间

Question

我有一块16GB的显卡，但CUDA显示只有8GB可用。我猜可能是因为它使用的是GPU 0，所以我尝试了一下，但还是不行，我该怎么办呢？

出现了CUDA内存不足的错误。尝试分配384.00 MiB的内存，但GPU 0的总容量只有8.00 GiB，而可用的内存为0字节。已经分配的内存中，有13.77 GiB是被PyTorch占用的，还有521.36 MiB是被PyTorch保留但未分配的。如果保留但未分配的内存比较大，可以尝试设置PYTORCH_CUDA_ALLOC_CONF=expandable_segments:True来避免内存碎片化。有关内存管理的更多信息，请查看文档（https://pytorch.org/docs/stable/notes/cuda.html#environment-variables）。

我猜可能是因为它使用的是GPU 0，所以我尝试了一下，但还是不行，我该怎么办呢？