2024-04-28 20:02:45 发布
网友
假设我有一个来自sklearn的经过训练的随机分类器模型。我们使用gRPC为该模型提供服务,并在高流量情况下提供实时预测。据我所知,gRPC可以支持多线程并发运行。它们是否可以同时调用RF的predict方法而不会遇到并发问题?sklearn的预测线程安全吗
如果不是这样的话,听起来您必须在每个工作线程中加载模型的各个副本
我对sklearn不太了解,但一般来说,gRPC是线程安全的,可以对同一个方法进行多次并发调用
我对sklearn不太了解,但一般来说,gRPC是线程安全的,可以对同一个方法进行多次并发调用
相关问题 更多 >
编程相关推荐