与sklearn和gRPC一起服务的模型

2024-04-28 20:02:45 发布

您现在位置:Python中文网/ 问答频道 /正文

假设我有一个来自sklearn的经过训练的随机分类器模型。我们使用gRPC为该模型提供服务,并在高流量情况下提供实时预测。据我所知,gRPC可以支持多线程并发运行。它们是否可以同时调用RF的predict方法而不会遇到并发问题?sklearn的预测线程安全吗

如果不是这样的话,听起来您必须在每个工作线程中加载模型的各个副本


Tags: 方法模型grpc分类器副本情况sklearn线程