onnx运行时python绑定

onnxruntime的Python项目详细描述


onnx运行时 实现对经过训练的机器学习(ML)的高性能评估 在保持低资源使用率的同时进行建模。 在微软致力于 Open Neural Network Exchange (ONNX) 社区,它也支持传统的ml模型 作为深度学习算法 ONNX-ML format。 文件可在 Python Bindings for ONNX Runtime

示例

下面的示例演示了一个端到端的示例 在一个非常常见的场景中。使用scikit learn训练模型 但它必须在优化的环境中运行得非常快。 然后将模型转换为onnx格式和onnx运行时 替换scikit learn来计算预测。

# Train a model.
from sklearn.datasets import load_iris
from sklearn.model_selection import train_test_split
from sklearn.ensemble import RandomForestClassifier
iris = load_iris()
X, y = iris.data, iris.target
X_train, X_test, y_train, y_test = train_test_split(X, y)
clr = RandomForestClassifier()
clr.fit(X_train, y_train)

# Convert into ONNX format with onnxmltools
from skl2onnx import convert_sklearn
from skl2onnx.common.data_types import FloatTensorType
initial_type = [('float_input', FloatTensorType([1, 4]))]
onx = convert_sklearn(clr, initial_types=initial_type)
with open("rf_iris.onnx", "wb") as f:
    f.write(onx.SerializeToString())

# Compute the prediction with ONNX Runtime
import onnxruntime as rt
import numpy
sess = rt.InferenceSession("rf_iris.onnx")
input_name = sess.get_inputs()[0].name
label_name = sess.get_outputs()[0].name
pred_onx = sess.run([label_name], {input_name: X_test.astype(numpy.float32)})[0]

更改

0.3.1

protobuf lite,nuget文件修复(补丁到0.3.0)。

0.3.0

c-api,linux支持dotnet-nuget包,cuda 9.1支持。

0.2.1

C-API、Linux对Dotnet Nuget包的支持、CUDA 10.0支持(补丁到0.2.0)。

0.2.0

C-API、Linux对Dotnet Nuget包的支持、CUDA 10.0支持

0.1.5

GA发布作为开放源代码onnxruntime(0.1.4补丁)的一部分。

0.1.4

GA发布作为开放源代码onnxruntime的一部分。

0.1.3

修复了不支持AVX指令的计算机上的崩溃。

0.1.2

在Ubuntu16.04上首次发布的CPU和GPU,带有CUDA9.1和CUDNN7.0, 支持深度学习模型体系结构的运行时,如AlexNet、ResNet, 例外,vgg,inception,densenet,标准线性学习者, 标准合奏学习者, 变换标量器,输入器。

欢迎加入QQ群-->: 979659372 Python中文网_新手群

推荐PyPI第三方库


热门话题
tomcat Java条带错误   java OPENTSDB fsck修复程序不更正重复点   java JavaFX在控制器内切换自身的可见性   java maven surefire插件未并行执行运行程序   读取导致Freemarker模板引擎中TemplateException的Java对象   无法使Java库与我的Android应用程序一起工作   安卓 java。lang.IllegalStateException游标   使用Java检索XML文件中的XSL URL和名称   java如何从文本文件集合中提取特定值   电子邮件java mail gmail   java为什么finalize()只被垃圾收集器调用一次?   java方法findViewById(int)对于Json类型是未定义的。蛇形   java在安卓中尝试从brother打印机打印位图时遇到以下异常   java在颤振中支持Kotlin的优势   java从后面编写文本   java制作列表。第一个列表可以有相同的数字,第二个将是价格,尝试制作第三个列表,如果它们是相同的数字,它将添加价格