每次我使用TensorFlow(CPU)运行Python代码时,例如:
import keras
我看到:
2020-10-30 15:27:20.518894: W tensorflow/stream_executor/platform/default/dso_loader.cc:55] Could not load dynamic library 'cudart64_101.dll'; dlerror: cudart64_101.dll not found
2020-10-30 15:27:20.518894: I tensorflow/stream_executor/cuda/cudart_stub.cc:29] Ignore above cudart dlerror if you do not have a GPU set up on your machine.
2020-10-30 15:27:23.713077: W tensorflow/stream_executor/platform/default/dso_loader.cc:55] Could not load dynamic library 'nvcuda.dll'; dlerror: nvcuda.dll not found
2020-10-30 15:27:23.713077: E tensorflow/stream_executor/cuda/cuda_driver.cc:313] failed call to cuInit: UNKNOWN ERROR (303)
2020-10-30 15:27:23.716077: I tensorflow/stream_executor/cuda/cuda_diagnostics.cc:169] retrieving CUDA diagnostic information for host: User1-PC
2020-10-30 15:27:23.716077: I tensorflow/stream_executor/cuda/cuda_diagnostics.cc:176] hostname: User1-PC
2020-10-30 15:27:23.729078: I tensorflow/compiler/xla/service/service.cc:168] XLA service 0x10cad0c0 initialized for platform Host (this does not guarantee that XLA will be used). Devices:
2020-10-30 15:27:23.729078: I tensorflow/compiler/xla/service/service.cc:176] StreamExecutor device (0): Host, Default Version
Using TensorFlow backend.
如果我将所有等待时间相加,则等待时间约为10秒
有没有办法加快这个过程?特别是如果我使用TensorFlow进行推理(而不是训练),我不希望每次启动引擎都要等待10秒钟
注意:当然,当我的代码准备就绪时,我将使用TensorFlow保持进程持续运行,并使用某种进程间通信,以避免重新启动整个程序
我这里的问题主要是针对原型制作阶段,当您经常需要重新启动程序时:在原型制作时,每次脚本启动都必须等待10或15秒是非常不方便的
对于您的推理问题,您可能需要一个寿命更长的进程,您可以通过HTTP、gRPC、XML-RPC、命名管道、从目录读取文件……请求推理结果
否则,请使用速度更快的计算机或磁盘。在我的机器上,启动新的Python进程并导入Keras大约需要2秒钟:
相关问题 更多 >
编程相关推荐