MemoryError:在训练StyleGan2时,无法为具有形状(1638430720,3)和数据类型float32的数组分配5.62Gib

2024-06-01 01:48:29 发布

您现在位置:Python中文网/ 问答频道 /正文

关于tensorflow 1.15和python3.7的培训。 我目前正在一个自定义数据集上训练stylegan2,该数据集由30000个图像组成,每个图像256 x 256。因为样式gan创建了不同的tf记录文件,每个文件都存储大小为2^x的数据集。第8条tf记录(storign 256x256图像)仅用于上下文,为5Gb,其余为超小记录(均小于1GB)。 我目前的设置是一个P100、16 gigs VRam、32 gb ram和丰富的存储空间。我还参加了2VCPU(gcp培训)

如上所述,我遇到了这个错误。最初我的内存是13G,在多次看到确切的错误后,我反复地将内存增加到32GB

任何和所有的“指针”都会有帮助(注意指针上的双关语哈哈)


Tags: 文件数据内存图像tftensorflow错误记录
1条回答
网友
1楼 · 发布于 2024-06-01 01:48:29

好吧,我解决了。我用于迁移学习的.pkl文件存在问题。使用包含模型的pickle文件,该模型的鉴别器从图像形状的输入层开始(例如256x256)

相关问题 更多 >