当 Apache DolphinScheduler 遇上 MLOps，机器学习模型部署到生产环境更快、更安全

作者 | 周捷光 白鲸开源 高级算法工程师

MLOps 是机器学习时代的 DevOps。它的主要作⽤就是连接模型构建团队和业务，运维团队，建⽴起⼀个标准化的模型开发、部署与运维流程，使得企业组织能更好地利⽤机器学习能⼒来促进业务增⻓。

在实际⽣产中，ML代码可能只是整个系统的⼩部分代码，所需要的其他相关的元素是很庞⼤且很复杂的。

当前的MLops系统划分虽然不尽相同，但是核⼼是类似的，⼤致可以分成以下四个阶段的⼯作：

Jupyter Notebook是基于网页的用于交互计算的应用程序。其可被应用于全过程计算：开发、文档编写、运行代码和展示结果。

Papermill 是一个可以参数化和执行Jupyter Notebook的工具。

MLflow 是一个MLOps领域一个优秀的开源项目， 用于管理机器学习的生命周期，包括实验、可再现性、部署和中心模型注册。

该功能预置算法实现由 https://github.com/apache/dolphinscheduler-mlflow 提供

MLFLOW: 直接读取模型地址，启动inference服务

• MLflow Tracking Server URI

• 部署模型的URI ：MLflow 服务里面模型对应的URI

• 部署端口 ：部署服务时的端口

DOCKER: 将模型打包成DOCKER镜像后运行

• MLflow Tracking Server URI

• 部署模型的URI ：MLflow 服务里面模型对应的URI

• 部署端口 ：部署服务时的端口

Docker Compose: 使用Docker Compose 部署模型

• MLflow Tracking Server URI

• 部署模型的URI ：mlflow 服务里面模型对应的uri

• 部署端口 ：部署服务时的端口

• 最大cpu限制 ：容器占用的最大CPU

• 最大内存限制 ：容器占用的最大内存限制

在common.properties 中即可配置conda环境变量

创建一个conda环境，用于执行Jupyter Notebook：

如何调起 Jupyter 任务运行 Notebook？

以下为一个使用SVM和iris数据集训练分类模型的Notebook

Notebook接收以下四个参数

拖拽Jupyter任务组件到画布，创建一个任务，如下：

该任务会运行

Notebook: home/lucky/WhaleOps/jupyter/MLOps/training_iris_svm.ipynb，并将运行结果保留在路径 /home/lucky/WhaleOps/jupyter/MLOps/training_iris_svm/03.ipynb 中。

并且运行时参数 C 设置为"1.0", kernel 设置为 "linear"，

运行的conda环境为kernel: "jupyter_test"。

我们可以再复制出两个相同的任务，并使用不同的参数。因此我们得到了三个不同参数的Jupyter任务，如下：

创建完成后，我们可以在工作流定义中看到我们新建的工作流（该工作流包含了3个Jupyter任务），点击红色箭头后，可以执行改工作流（也可以点击绿色箭头，设定定时任务满足实现定时运行工作流的需求）

工作流运行后，可以点击任务实例查看每个任务的执行情况，点击红色箭头指向的按钮即可查看每个任务执行的日志。

创建完环境后，后续每个任务都可以在Environment Name中选择我们刚创建的环境。

安装MLflow, 使用 pip install mlflow 进行安装，即可启动 MLflow service。

更稳健的启动方式:

• 使用Docker Compose（如 https://github.com/Toumash/mlflow-docker）

  
  

• 使用helm (如 https://artifacthub.io/packages/helm/cetic/mlflow)

  
  

配置完环境后，如何使用MLflow训练任务？

以下是一个iris的csv格式的数据集

举例创建工作流如下，包含两个MLflow任务

任务一: 使用svm训练iris分类模型，并设置如下参数，其中，超参数搜索空间用于调参使用，若不填，则不搜索超参数。

任务二：使用AutoML方法训练模型，AutoML工具使用flaml，并设置搜索时间为60秒，并只允许使用 lgbm, xgboost 作为estimator。

创建完工作流后，我们可以点击红色箭头指向的按钮来立即执行工作流。

上文中我们已经注册了在MLflow模型中心中注册了一些模型，我们可以打开 127.0.0.1:5000中看到模型的版本，如下

创建一个MLflow Models的任务，指定模型未 iris_model, 版本为 Production (生产版本)，设置监听端口为7000

训练完模型后自动部署，以下为例子：

引用我们上面创建的工作流（Jupyter训练模型，MLflow部署模型）作为子工作流，并串联一起形成一个新的工作流即可。

思考：Jupyter+MLflow还能做些什么？再加上OpenMLDB呢？

上图为机器学习相关工具和平台的展示图，Apache DolphinScheduler 未来将有选择地支持其中一些使用范围较广，使用价值较高的工具和平台。

未来，Apache DolphinScheduler 将支持的MLOps组件主要分为三个模块，包括数据治理、模型和部署，涉及到的组件主要有 DVC（Data Version Control），集成Kubeflow建模，提供Seldon Core、BentoML、Kubeflow等部署工具，以适用不同场景使用需求。

如何集成更多工具，让Apache DolphinScheduler更好地服务用户，是我们长期的思考话题，欢迎更多对MLOps或开源感兴趣的小伙伴参与共建！