基于机器学习的智能运维
免费下载
专栏
第 13 卷 第 12 期 2017 年 12 月
68
基于机器学习的智能运维
关键词 ：机器学习 智能运维
裴 丹
1
张圣林
2
裴昶华
3
1
清华大学
2
南开大学
3
阿里巴巴公司
当代社会生产生活的许多方面都依赖于大型复
杂的软硬件系统， 包括互联网、高性能计算、电信、
金融、电力网络、物联网、 医疗网络和设备、航空
航天、军用设备及网络等。这些系统的用户都期待
有好的体验。 因而，这些复杂系统的部署、运行和
维护都需要专业的运维人员，以应对各种突发事件，
确保系统安全、可靠地运行。由于各类突发事件会
产生海量数据，因此，智能运维从本质上可以认为
是一个大数据分析的具体场景。
图 1 展示了智能运维涉及的范围。它是人工智
能、行业领域知识、运维场景领域知识三者相结合
的交叉领域，离不开三者的紧密合作。
智能运维的历史
手工运维 ：
早期的运维工作大部分是由运维人
员手工完成的，那时，运维人员又被称为系统管理
员或网管。他们负责的工作包括监控产品运行状态
和性能指标、产品上线、变更服务等。因此，单个
运维人员的工作量和运维人员的数量都是随着产品的
个数或者产品服务的用户规模呈线性增长的。此时的
运维工作消耗大量的人力资源，但大部分运维工作都
是低效的重复。这种手工运维的方式必然无法满足互
联网产品日新月异的需求和突飞猛进的规模。
自动化运维 ：
运维人员逐渐发现，一些常见
的重复性的运维工作可以通过自动化的脚本来实
现 ：一部分自动化脚本用以监控分布式系统，产生
大量的日志 ；另外一部分被用于在人工的监督下进
行自动化处理。这些脚本能够被重复调用和自动触
发，并在一定程度上防止人工的误操作，从而极大
地减少人力成本，提高运维的效率。这就诞生了自
动化运维。自动化运维可以认为是一种基于行业领
域知识和运维场景领域知识的专家系统。
运维开发一体化 ：
传统的运维体系将运维人
员从产品开发人员中抽离出来，成立单独的运维部
门。这种模式使得不同公司能够分享自动化运维的
工具和想法，互相借鉴，从而极大地推动了运维的
发展。然而，这种人为分割的最大问题是产生了两
个对立的团队——产品开发人员和运维人员。他们
图1 智能运维涉及的范围
行业领域知识
运维场景
领域知识
机器学习
互联网、电信、金融、
电力网络⋯⋯
智能运维
聚类、决策树、
卷积、神经网络
⋯⋯
瓶颈分析、
异常检测、
故障预测⋯⋯
第 13 卷 第 12 期 2017 年 12 月
69
的使命从一开始就截然不同 ：产品开发人员的目标
是尽快地实现系统的新功能并进行部署，从而让用
户尽快地使用到新版本和新功能。运维人员则希
望尽可能少地产生异常和故障。但是经过统计发
现，大部分的异常或故障都是由于配置变更或软件
升级导致的。因此，运维人员本能地排斥产品开发
人员部署配置变更或软件升级。他们之间的目标冲
突降低了系统整体的效率。此外，由于运维人员不
了解产品的实现细节，因此他们在发现问题后不能
很好地定位故障的根本原因。为了解决这一矛盾，
DevOps
1
应运而生。DevOps 最核心的概念是开发运
维一体化，即不再硬性地区分开发人员和运维人员。
开发人员自己在代码中设置监控点，产生监控数据。
系统部署和运行过程中发生的异常由开发人员进行
定位和分析。这种组织方式的优势非常明显 ：能够
产生更加有效的监控数据，方便后期运维 ；同时，
运维人员也是开发人员，出现问题之后能够快速地
找出根因。谷歌的站点可靠性工程 (Site Reliability
Engineering, SRE) 就是 DevOps 的一种特例。
智能运维 (Artificial Intelligence for IT Opera-
tions, AIOps) ：
自动化运维在手动运维基础上大大提
高了运维的效率，DevOps 有效地提升了研发和运维
的配合效率。但是，随着整个互联网系统数据规模的
急剧膨胀，以及服务类型的复杂多样，“基于人为指
定规则”的专家系统逐渐变得力不从心。因为自动化
运维的瓶颈在于人脑 ：必须由一个长期在一个行业从
事运维的专家手动地将重复出现的、有迹可循的现象
总结出来，形成规则，才能完成自动化运维。然而，
越来越多的场景表明，简单的、基于人为制定规则的
方法并不能够解决大规模运维的问题。
与自动化运维依赖人工生成规则不同，智能运
维强调由机器学习算法自动地从海量运维数据（包
括事件本身以及运维人员的人工处理日志）中不断
地学习，不断地提炼并总结规则。换句话说， 智能
运维在自动化运维的基础上增加了一个基于机器学
习的大脑，指挥着监测系统采集大脑决策所需的数
据，
做出分析、决策并指挥自动化脚本去执行大脑
的决策，从而达到运维系统的整体目标（见图 2）。
Gartner Report 预测 AIOps 的全球部署率将从 2017
年的 10% 增加到 2020 年的 50%。
智能运维现状
关键场景与技术
图 3 显示了智能运维包含的关键场景和技术 ，
涉及大型分布式系统监控、分析、决策等。
在针对历史事件的智能运维技术中，
瓶颈分析
是指发现制约互联网服务性能的硬件或软件瓶颈。
热点分析
指的是找到对于某项指标（如处理服务请
1
DevOps，英文 Development 和 Operations 的组合。是一组过程、方法与系统的统称，用于促进开发（应用程序 / 软件
工程）、技术运营和质量保障 (QA) 部门之间的沟通、协调与整合。
图2 智能运维与自动化运维的最大区别是有一个基
于机器学习的大脑
运维
目标
测量
分析决策
控制 海量日志自动化脚本
基于机器学习的智能运维大脑
图3 智能运维的关键场景和技术
针对历史事件
针对当前事件
针对未来事件
瓶颈分析
热点分析 KPI聚类
KPI关联
关系挖掘
异常事件关
联关系挖掘
全链路模块
调用链分析
故障传播
关系图构建
异常检测 异常定位 异常报警聚合 快速止损 故障根因分析
故障预测 容量预测 趋势预测 热点分析
of 6
免费下载
【版权声明】本文为墨天轮用户原创内容，转载时必须标注文档的来源（墨天轮），文档链接，文档作者等基本信息，否则作者和墨天轮有权追究责任。如果您发现墨天轮中有涉嫌抄袭或者侵权的内容，欢迎发送邮件至：contact@modb.pro进行举报，并提供相关证据，一经查实，墨天轮将立刻删除相关内容。
下载排行榜
评论