一次使用一个网络进行多个预测

Question

我用Keras作为滑动窗口目标检测系统。这自然需要快速进行许多分类的能力。不幸的是，Keras的model.predict()函数有很大的开销，并且需要更长的时间来加载？预处理数据？谁知道呢，比它做的实际网络处理。我知道，因为我尝试过移除层等，这对model.predict()调用的时间几乎没有影响。在

所以基本上我要找的是一种使用一个网络同时对几个输入运行预测的方法。不一定在单独的线程中，但不返回我的代码。有人知道这种技术吗？在