如何加载模型进行推理?

2024-05-14 17:42:53 发布

您现在位置:Python中文网/ 问答频道 /正文

我正在使用一个简单的基于感知器的分类器来生成Pytorch中的情感分析,这里的完整代码Classifying Yelp Reviews

该示例进行情绪分析,如果给定的输入字符串为正或负,则输出

example: this is a pretty small old great book -> positive

应用程序将最终模型与vectorizer.json一起存储

所以我的问题是:构建一个单独的应用程序来测试模型的先决条件是什么,这样以后就可以在web应用程序中使用它了

以下是我目前对此的理解和疑问:

我假设要测试,我们需要加载模型,加载模型参数并进行评估以进行推断,请确认

model = TheModelClass(*args, **kwargs) # Model class must be defined somewhere model.load_state_dict(torch.load(PATH)) model.eval() # run if you only want to use it for inference

一旦完成第1步,我希望我们可以使用Flask部署模型,并为模型推断公开RESTAPI


Tags: 字符串代码模型应用程序示例model分类器load

热门问题