MxNet：在大型图像数据集上进行推断的好方法

Question

我有数百万张图片可以推断。我知道如何编写自己的代码来创建批处理，并使用MxNet Module API将批处理转发到经过训练的网络，以便获得预测。但是，创建批处理会导致大量的数据操作，而这些操作并不是特别优化的。你知道吗

在我自己做任何优化之前，我想知道是否有一些推荐的批量预测/推断方法。更具体地说，由于这是一个常见的用例，我想知道是否有一个接口/api可以在给定一个经过训练的模型（即symbole文件和epoch检查点）的情况下执行通常的图像预处理、批创建和推断？你知道吗

Answer 1

如果您使用的是标准的预训练模型，我强烈建议您研究一下gluoncv project——一个基于apachemxnet的计算机视觉工具箱。你知道吗

他们有很好的实现最先进的模型，有时甚至超过了在科学论文中发表的原始结果。最酷的是，他们还提供了数据预处理代码-据我所知，这就是你要找的。（参见gluoncv.data.transforms.presets包）。你知道吗

我不知道你想做什么样的推断，比如图像分类、分割等等，但是看看list of tutorials，很可能你会找到你需要的。你知道吗

除此之外，优化快速的挂钟时间需要您确保您的GPU是100%利用率。您可能会发现观看this video有助于了解有关优化性能的更多提示和技巧。它讨论训练，但同样的技巧也适用于推理。你知道吗