为什么我用Go写机器学习部署平台

江湖，永远有人觊觎霸主的位子。

Python如今却稳坐编程语言界的霸主，尤其是在机器学习领域，所有主流机器学习框架都在用Python。

然而即使是被绝大多数人认可的Python，也并非真的无所不能，也有让其无能为力、无中生有的情况。

Python引以为豪的机器学习算法，只是机器学习系统的一个组成部分。要实际大规模运行生产机器学习API，还需要实现以下功能的基础架构：

自动缩放，以便流量波动不会破坏您的APIAPI管理，以处理的API部署滚动更新，以便您可以在更新模型的同时仍为用户提供服务

对于像Cortex这样的开源机器学习部署平台，旨在使所有这些基础架构自动化，以及日志记录和成本优化等其他方面的关注，作者Caleb Kaiser认为相比Python而言，Go更合。

相比于出身寒门、一个应届生的圣诞节无聊之作的Python，Go语言出自Google，作者是三位宗师级人物：Rob Pike、Ken Thompson 和 Robert Griesemer。在以下方面超越了Python：

并发对于机器学习基础架构至关重要

用户可以将许多不同的模型部署为不同的API，所有模型都在同一个Cortex集群中进行管理。

为了让Cortex Operator能够管理这些不同的部署，需要纠缠一些不同的API。

Cortex调用Kubernetes API在集群上部署模型；同时也需要考虑各种AWS API（EC2 Auto Scaling，S3，CloudWatch等）

用户不会直接与任何这些API进行交互，取而代之的是，Cortex以编程方式调用这些API来供应集群，启动部署和监视API。

以一种有效，可靠的方式进行所有这些重叠的API调

（编辑：济宁站长网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!