MLOps = ML + DEV + OPS。MLOps 是将历史悠久的 DevOps 实践与新兴的机器学习领域相结合的理念。
作者：Angad Gupta，数据科学学生
引言
MLOps 是 ML + DEV + OPS 的结合。MLOps 主要通过提高自动化程度来帮助提升生产可扩展性和生产模型的质量。
MLOps 是将历史悠久的 DevOps 实践与新兴的机器学习领域相结合的理念。它创建了一个自动化环境，将模型开发、模型再训练、漂移监控、流水线自动化、质量控制以及模型治理整合到一个平台中。
MLOps 团队包括负责整理数据集和设计 AI 模型的数据科学家，以及以自动化方式运行这些模型和数据集的 ML 工程师。
为什么 MLOps 很重要
MLOps 团队将帮助您解决以下问题：
使用多种语言构建机器学习
在开发和生产环境中部署模型
排查模型部署期间出现的问题
准备不同语言的部署包
模型性能监控
以一致的方式监控整个组织内部署的模型
模型生命周期管理问题：
需要数据科学家参与更新生产模型和维护活动
跟踪初始部署后的模型衰减
生产访问控制
可追溯的模型结果
模型审计追踪
模型升级审批工作流
MLOps 的目标
MLOps 的目标包括：
部署与自动化
模型训练与升级
运行诊断与修复
数据治理与业务合规
生产可扩展性
团队协作
监控与管理
主要优势
创建可复现的工作流管道和机器学习模型：管道是机器学习工作流基础设施的骨干。管道有助于从源系统获取数据，并对数据进行处理和验证。它还跟踪所有活动，如模型版本、用于训练模型的数据集等。
创建机器学习管道以设计、部署和复现模型部署
提供一种机制来追踪代码版本、数据和各种矩阵以及执行日志
在任何生产环境中轻松部署模型：机器学习模型本质上是复杂的，每次部署都需要资源来高效运行模型。机器学习模型的部署需要自动化系统来提供和管理所需资源并正确执行。
快速且完美地部署机器学习模型
自动控制云资源的使用
在部署前运行模型验证和各种测试
预定义的专用系统将模型从部署迁移到生产系统
机器学习生命周期管理：最终的机器学习模型内部可能嵌入了许多相关的微服务和辅助服务。需要跟踪机器学习模型中使用的所有相关资源，以便进一步改进和验证。
使用有效的集成工具来跟踪模型开发及其组件，并通过专用工具集成所有组件
高级偏差数据分析，以在一段时间内交叉验证模型性能
机器学习资源控制与管理：机器学习模型需要使用不同的数据集持续训练，因此必须让它们跟踪模型版本、代码版本、数据集版本以及相关的所需资源。
跟踪模型版本历史以用于审计目的
评估特征的重要性，并使用均匀分布指标创建偏差最小的更高级模型
设置资源配额，并建立适当的策略，以便根据高效运行模型的需求增加/减少这些资源
在标记机器学习资源并自动跟踪实验时，创建审计跟踪以满足监管要求
最佳实践
ML pipelines：设置各种 ML pipelines，例如数据 pipeline，以定义依赖关系及其执行顺序，并生成用于监控特定 pipeline 资源的指标
混合团队：MLOps 包括数据科学家、机器学习工程师、DevOps 工程师和数据工程师的工作；这样的混合团队有望在设计上快速高效地处理问题
模型和数据版本管理：除了维护代码版本外，我们还需要维护机器学习模型版本以及用于训练模型的数据、模型的超参数和模型的元数据等；模型版本管理不仅仅是最终模型本身
模型验证：需要设置用于模型验证的统计测试，因为模型验证不能是 pass/fail 或 true/false；它更加细微，并且可以从详细的统计测试中吸取经验教训
数据验证：在基于提供的数据训练模型之前，必须验证输入数据，以避免从模型中引入不确定性和偏差
监控：随着训练和部署模型占用越来越多的资源，通过可视化模型正在使用的各种资源指标来监控模型在环境中的性能变得越来越重要
辅助 MLOps 的平台和工具
如上所述，以下类型的平台和工具可以帮助实现 MLOps：
专门用于模型跟踪、模型历史和模型注册相关信息的工具
用于模型版本控制以及对模型各个单独方面（代码、数据集等）进行版本控制的工具
用于执行模型实验以及部署模型和 ML 流水线的云服务平台
结论
MLOps 是工程学科的一个新分支。它是一个由机器学习工程师、DevOps 和数据科学家组成的混合团队，有助于检索数据、验证数据、部署机器学习模型，并使用适当的数据集训练它们。MLOps 还有助于监控模型输出以优化模型，无缝地运行并产生期望的输出。MLOps 对于部署和训练模型以及跟踪模型和相关数据集非常有帮助。
简介：Angad Gupta 在 AutoGrid India Pvt Ltd 担任客户交付工程师，并在 Bits Pilani 攻读数据科学硕士学位。你可以在 LinkedIn 上关注他。
在数据科学中释放 MLOps 和 DataOps 的力量
使用 PyCaret + MLflow 轻松实现 MLOps
将 Docker 化的 FastAPI 应用部署到 Google Cloud Platform
转载声明：本文为转载整理，原文版权归原作者及原站点所有。
原文来源：KDnuggets
原创地址：https://www.kdnuggets.com/2021/07/mlops-engineering-discipline.html#comment-184637
原文作者：https://www.facebook.com/kdnuggets；如有侵权，请联系管理员删除。
