全国首家！百度智能云通过MLOps服务能力旗舰级评测

1.面向应用方：MLOps应用成熟度评测

2022年11月，百度智能云企业AI开发平台参与了MLOps开发管理服务能力评测，成为国内首个在开发管理能力上，达到旗舰级的MLOps平台，代表其服务能力达到国内卓越级水平。

在本次评测过程中，一是直接评估该开发平台开发管理的功能能力，二是根据某个真实项目交付过程评估开发管理的服务能力。百度智能云企业AI开发平台的整体能力在需求管理、数据工程和模型开发三个模块均达到了旗舰级水平。其中，在功能上具有完善的需求和代码管理流程，AI模型生产过程具备可视化建模、自动化建模、作业建模、工作流等建模方式，对底层计算资源具有完备高效的管理模式，对模型具有全面的管理能力，对数据具有功能丰富的管理平台和质检能力。此外，在服务过程上，百度从组织结构到流程管理，再到管理工具方面，均具有较高的服务水平，能够为外部企业客户的需求提供较为快速和较高质量的响应。

为此我们采访了百度智能云企业AI开发平台产品高级架构师，靳伟，深入介绍该产品的研发团队和技术能力，并分享MLOps在落地过程中面临的挑战和未来趋势。

百度智能云企业AI开发平台产品高级架构师  靳伟

A: 百度（Baidu）是拥有强大互联网基础的领先AI公司，是全球为数不多的提供AI芯片、软件架构和应用程序等全栈AI技术的公司之一，被国际机构评为全球四大AI公司之一。旗下的百度智能云以“云智一体”为核心赋能千行百业，致力于为企业和开发者提供全球领先的人工智能、大数据和云计算服务以及简单易用的开发工具，加速产业智能化转型升级。

参与本次评测的是百度智能云企业AI开发平台，作为企业AI能力的生产、应用和集中化管理平台，企业AI开发平台包括智能数据、模型开发、模型中心、预测服务、AI集市和平台管理等功能模块，为客户提供从数据管理、数据标注、模型开发、部署上线到运营管理的AI能力研发与应用的全生命周期建设和管理能力。

Q: 请您详细介绍MLOps给贵公司的人工智能服务体系带来了哪些应用成效？

A: MLOps是当前AI领域的一个重要趋势，国内外AI领域的头部公司都开始了相关储备，百度智能云企业AI开发平台也很早就开始了相关能力建设，比如开发环境、模型、数据等资产的版本管理和安全监控，以及全流程的可追溯等方面，都已经有了比较好的基础。作为平台提供商，百度智能云企业AI开发平台服务了能源、金融、汽车等各行各业的数百家客户，平台的MLOps能力在客户侧带来了更深远的影响，例如，我们为某金融客户建设了一站式建模平台，模型上线从按月计变为按天计，效率大幅提升，并且在百度的协助下，客户侧首次满足了银行监管要求，保障了数据、模型等资产安全。

在未来，百度智能云企业AI开发平台还会继续参与信通院后续MLOps标准的编制和评测，也会持续建设MLOps能力，相信MLOps会持续对百度以及百度客户的人工智能体系带来更深远影响。

Q: 您觉得MLOps对企业的效能提升体现在哪些方面？关于MLOps落地，贵司的下一步计划是什么？

A: MLOps的出发点主要是解决在深度学习和机器学习模型的研发中所面临的数据及模型缺乏统一管理、模型开发部署迭代周期长、模型监控体系不够完善、团队协作困难等问题，引入MLOps可以使得企业在多模型的大规模部署、持续训练、持续交付、持续监控等方面的效率有大幅提升，全流程全生命周期的自动化可以加快部署和服务更新速度，也可以提高模型服务质量。与此同时，由于整个流程可以做到更高程度的自动化，也会大幅节约人力成本。在人才成本越来越高企的AI行业，以及AI逐步推广至千行百业的过程中，MLOps可以发挥更大的价值。

百度智能云企业AI开发平台很早就开始建设MLOps能力，已经在百度以及客户中有了落地，平台目前在开发管理方面建设得比较完善，计划之后加强模型持续交付、持续集成能力建设，并进一步提升平台有关模型开发部署全生命周期的自动化能力。

Q: 贵公司参与此次评测的初衷是什么？您认为本次评测的最大收获是什么？

A: 百度智能云企业AI开发平台作为行业领先的企业AI开发平台产品，对MLOps这一AI行业的重要趋势一直都非常重视，很早就开始了相关能力的建设，并在服务客户和内部赋能过程中产生了持续价值。在信通院发起MLOps标准编制后，我们也积极参与其中，对于信通院“以评促建、以评促改、有效衡量、树立标杆”的思路非常认可。百度智能云企业AI开发平台参与评测，一方面是为了检验我们长久以来的建设成果和产品能力，另一方面也是响应信通院的号召，树立标杆，为中国的AI领域发展贡献一份力量。

MLOps开发管理部分的评测，涉及28个能力子项，考察点近200余项，整个参测过程我们对百度智能云企业AI开发平台的模型开发管理能力进行了一次全面、细致的梳理。随着参与本次评测，我们对于MLOps的价值认识更加深刻，对于MLOps能力的建设思路和节奏也更加清晰，从过去散点式的建设变得更加系统性，进一步提升了平台的自动化建设程度。

Q: 您认为MLOps在行业落地目前面临的挑战是什么？在产业应用上还存在哪些问题亟待解决？

A: 百度智能云企业AI开发平台服务的客户来自于很多行业，同时我们自身又立足于互联网行业，在推进MLOps工作的过程中我们也一直在思考，每个行业甚至每个客户落地时所面临的挑战可能都是不一样的。

比如金融、互联网等行业的数字化转型比较早，其行业特性就决定了可以积累海量数据，更容易拥抱AI，并且在各类应用场景中开发机器学习模型来解决问题已经有非常成熟的方案，难点是在于如何将已有的能力串联起来，进一步实现高效的开发、交付和运营。这类企业需要打造适合自身应用场景的平台，建设更加规范和自动化的机器学习流水线，就可以比较快落地MLOps。

而一些数字化转型较晚的行业或企业，AI的落地也比较晚，需要先建设相关的场景方案和平台，然后再逐步实现MLOps落地，建设成本高、人才缺乏都会成为比较大的挑战。

在产业应用上如何提升模型生产的规模化，如何实现全流程的自动化、规范化，以及模型效果的持续提升等都是亟待解决的问题。

Q: 您认为MLOps未来会朝哪些方向发展？对于AI工程化您怎么看？

A: 未来MLOps将在数据自动生成、模型自动调参、模型可解释性、模型安全性及公平性等方面得到进一步发展，以及全流程和全生命周期的自动化也是一个重要的方向。

AI工程化是AI大规模发展的必经之路，Gartner的研究表明，只有53%的项目能够从AI原型转化为生产。而AI要成为企业的生产力，就必须以工程化的技术来解决模型开发、训练、预测等全链路生命周期的问题，从而实现模型的规模化生产，而MLOps就是AI工程化的重要助推器。