azure机器学习硬件加速模型
azureml-accel-models的Python项目详细描述
使用各种深度神经网络(DNNs)作为部署到Azure的特效器或用于超低延迟推断的数据盒边缘设备轻松创建和训练模型目前提供这些型号:
- resnet 50
- resnet 152
- 登森网-121
- VGG-16
- 固态硬盘-VGG
设置
按照以下步骤instructions在本地计算机上安装azure ml sdk,创建azure ml工作区,并设置下一步所需的笔记本环境。
设置环境后,请安装azure ml accel models sdk:
pipinstallazureml-accel-models
注意:*此软件包要求您安装tensorflow>;=1.6。这可以使用:
pipinstallazureml-accel-models[cpu]
如果您的机器支持GPU,则可以使用以下命令利用TensorFlow GPU功能:
pipinstallazureml-accel-models[gpu]
AzureML Accel型号
- 使用加速模型创建特征化器
- 使用AccelOnnxConverter将tensorflow模型转换为ONNX格式
- 使用AccelContainerImage创建容器映像,以便部署到azure或数据框边缘
- 在加速模型主机上使用示例predictionclient进行推理,或创建自己的grpc客户端