如何在GPU支持下运行python代码

Question

我创建了一个flask服务，用于接受请求，并将camera url作为在camera frame中查找对象（桌子、椅子等）的参数。我已经在烧瓶里写了代码来接受发帖请求。

@app.route('/rest/detectObjects', methods=['GET','POST'])
def detectObjects()
...
json_result = function_call_for_detecting_objects()
...
return

在函数中，它加载tf模型进行目标检测并返回结果。烧瓶服务器需要同时处理大量请求。所以我需要用GPU作为摄像头的访问时间来执行这个功能，而目标检测的图像处理需要花费大量的时间和CPU的使用。拥有4 GB GeForce GTX 1050 Ti/PCIe/SSE2。如何使我的python脚本使用GPU来完成此任务？

Answer 1

要在python中使用GPU，可以使用一个可用的库：https://www.researchgate.net/post/How_do_I_run_a_python_code_in_the_GPU

CUDA可能是NVIDIA GPU的正确选择。有关在Anaconda Python发行版中使用它的指南，请参见https://weeraman.com/put-that-gpu-to-good-use-with-python-e5a437168c01

Answer 2

安装tensorflow gpu将使脚本自动检测gpu。如果未检测到gpu，请检查驱动程序版本（Cuda和cudnn）。如果没有版本不匹配或错误发生，则脚本可以识别存在的gpu，并将使用gpu运行。