边缘深度学习设备基准评测：英伟达Jetson Nano胜出

虽然这个组合速度挺高，但准确度却不好。我们没法得知谷歌报告准确度所使用的确切的验证集，但我们猜想他们使用的图像预处理变换方法与我们用的不一样。因为量化的 8 位模型对图像预处理非常敏感，这可能对结果产生很大影响。

准确度第一名： Jetson Nano

准确度方面，最佳结果来自 Jetson Nano 与 TF-TRT 和 EfficentNet-B3 的组合，其实现了 85% 的准确度。但是，这些结果是相对的，因为我们训练模型时，有的模型使用的数据集比其它模型更大一些。

可以看到，当我们向模型输入更小的数据集时，准确率会更高；而当使用完整数据集时，准确度更低。这个结果的原因是我们没有对更小的数据集进行随机排序，因此其中的图像没有实现合理的平衡。

硬件加速器的可用性

关于这些设备的可用性，开发者注意到一些重要的差异。

当涉及到选择和部署预编译的模型和框架时。Jetson 是最灵活的。英特尔神经计算棒紧随其后，因为其提供了很好的库、很多模型和很好的项目。此外，这款计算棒的第二代相比第一代有重大改进。唯一的缺点是他们那庞大的软件库 OpenVINO 仅支持在 Ubuntu 16.04，不支持更新的 Linux操作系统版本。

相比于 Jetson 和英特尔计算棒，Coral 设备存在一些局限性。如果你想在上面运行非官方的模型，你必须将其转换到TensorFlowLite，然后再针对 Edge TPU 进行量化和编译。取决于模型的不同，这种转换有可能无法实现。尽管如此，我们预计谷歌今后会改进这款设备的未来版本。

总结

这里的研究基于我们对为深度学习算法设计的当前最佳边缘计算设备的探索。

我们发现 Jetson Nano 和 Coral 开发板在推理时间方面表现非常好。

而在准确度方面，Jetson Nano 表现也很出色，尽管这个结果是相对的。

从总体表现看，Jetson Nano 是当之无愧的赢家。

但是，必须指出，由于 Jetson Nano 和 Coral 的设计不同，我们没法在两者之上测试同样的模型。我们相信每种设备都有最适合自己的场景，这取决于所要完成的具体任务。

【编辑推荐】

1. 人工智能、5G应用不再停留在“纸上蓝图” 数字经济发展提速
2. Photoshop 2020来了，人工智能让设计更轻松
3. 央视点名推荐的“家庭智能管家”，疑似阿里人工智能实验室新品
4. 新的人工智能编程语言超越了深度学习
5. 这些编程入门栽过的“坑”，大多数程序员经历过

（编辑：济宁站长网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!