Keras:cpu使用率为20%,内存使用率很高,即使模型运行在GPU上

2024-04-24 05:51:30 发布

您现在位置:Python中文网/ 问答频道 /正文

我加载了三个Keras Mobilenets模型,用于在nvidia1080gpu上进行推理,内存分数设置为0.35。(Tensorflow后端) 我注意到GPU负载和GPU内存按预期增加。 然而,在加载模型和推理时,我注意到CPU使用率和RAM分配在增加,直到它们分别达到22%和2GB。 所有模型的推理都在while循环内。在

这正常吗?在


Tags: 内存模型gputensorflowcpu分数kerasram