研究报告全文：数据中心智能化运维发展研究报告2023年中国信息通信研究院云计算与大数据研究所开放数据中心委员会2023年3月版权声明本报告版权属于中国信息通信研究院开放数据中心委员会并受法律保护转载摘编或利用其它方式使用本报告文字或者观点的应注明来源中国信息通信研究院开放数据中心委员会违反上述声明者编者将追究其相关法律责任前言新型数据中心是支撑5G云计算人工智能等新一代信息技术发展的算力载体是推动经济社会数字转型智能升级融合创新的关键基础设施随着以高技术高算力高能效高安全为代表的四高成为产业发展新目标智能化作为新型数据中心高技术的重要体现已经成为新型数据中心的重要发展趋势为切实引导新型数据中心加快向高技术发展本报告聚焦新型数据中心智能化运维的基础性研究分阶段回顾了我国数据中心运维发展历程对智能化运维的基本概念发展历程等进行分析深化产业认识激发发展共识首次提出智能化运维发展的三大目标和理念体现产业界发展理念与体系的创新升级总结分析智能化运维的发展核心即设施平台体系服务的发展态势明晰智能化运维对于产业界的价值报告意在为行业实现高技术高质量发展提供有益参考希望能对从业者有所启示数据中心智能化运维相关产业技术正处于高速发展阶段新技术生态瞬息万变我们的认识有待深化迭代报告存在不足之处烦请业界不吝指正共同进步如有意见或建议请联系dcecocaictaccn目录一数据中心智能化运维概念与内涵1一基本概念1二发展历程2三目标与理念4二数据中心智能化运维发展核心6一设施自动化运行6二平台智能化管理10三体系精细化落地14四服务价值化输出17三数据中心智能化运维发展实践20一以自动化设施提升运行效率20二以DCIM平台促进智能管理21三以技术手段赋能运维体系变革23四以巡检机器人释放运维人力25四数据中心智能化运维发展建议26图目录图1数据中心智能化运维框架结构102图2数据中心运维管理发展历程3图3自动化运行设施7图4数据中心设施自动化运行能力分级之间的差异与关系8图5DCIM的管理范畴与服务能力11图6数据中心精细化运维成熟度模型17表目录表1数据中心智能化运营管理平台建设原则14数据中心智能化运维发展研究报告2023年一数据中心智能化运维概念与内涵经济社会数字化转型进程加速新一代信息技术不断升级推动数据中心运维管理方式变革为有效应对数据中心向绿色化集约化高密化智能化建设发展演进过程中的新需求数据中心运维需要由人力密集型向技术密集型演进实现程度更深水平更高的信息化变革并在此基础上进一步向更高级别的数字化网络化智能化迈进一基本概念数据中心智能化运维是集人工智能大数据等新一代信息技术应用管理平台与数据中心自动化运行设施等深度融合的新型运维模式与综合解决方案详见图1通过对运维设施平台体系与服务的全面建设一方面充分利用DCIMDataCenterInfrastructuremanagement数据中心基础设施管理DOSMDigitalOperationServiceManagement数字化运维服务管理平台等管理平台叠加自动化运行设施尽可能的实现系统自发现自控制与自应急另一方面搭建覆盖精细化运维工作全价值链的人事物流程四维科学运维管理架构重塑数据中心运维价值体系数据中心运行状态中从数据要素的流转过程看数据经过传感器的采集DCIM的监控管理到转化为业务可识别的数据最后以数据驱动管理产生预测性维护价值将数据的标准化收集视为运维管理生命周期的起点智能化运维由此可以看作是一项系统性工程有着丰富的内涵与外延需要通过数据中心设备监控管理平台与1数据中心智能化运维发展研究报告2023年运维工作的有机结合推动产业精细化绿色化智能化发展来源中国信息通信研究院图1数据中心智能化运维框架结构10二发展历程我国数据中心运维的历史可以追溯到2000年左右大体上可以划分为四个发展阶段详见图22数据中心智能化运维发展研究报告2023年来源中国信息通信研究院图2数据中心运维管理发展历程1手工运维阶段信息化发展初期由于缺少运维工具和操作指南较为依赖个人的知识技术及经验运维完全围绕人员展开所有运维工作都由人工完成当运维人员出现问题时全面影响数据中心企业运行2流程化标准化运维阶段当运维业务量增长超过人力增长众多企业纷纷建立运维流程通过初步的制度化标准化运作规范了因为不同人员操作带来的效果差异在这一阶段根据标准化流程和分析方法不同操作人员完成的巡检报告质量水平可实现基本一致降低了人员的变化对数据中心企业运维的影响3平台化自动化运维阶段到了我国数据中心产业的大发展时期云边端一体化算力布局体系初成不同形态的数据中心架构各异运维方式也各不相同数据中心现场生产和远程集中化管理的运维需求溢出数据中心可以利用DCIM等平台或工具把可复用以及标准化程度较高的相关工作进行梳理使用算法整合的方式来达到自动化的运维并对执行的过程进行监管优化运维管理当前我国数据中心总体处于平台化自动化运维阶段呈现平台化自动化可视化等典型特征4智能运维阶段随着5G人工智能云计算大数据等新一代信息技术研发与3数据中心智能化运维发展研究报告2023年应用风起云涌赋能数据中心运维管理模式变迁为有效应对数据中心产业不断提升人员效率能源利用效率的发展需要运维管理正在逐步迈入以设施平台体系服务为核心要素的智能运维发展阶段数据中心在全自动互联自运维的基础设施环境下通过全方位的监控系统感知并准确定位故障通知智能决策系统下发变更维护等指令实现运维从数据输入到预测性维护全过程的数字化基于数据建模实现运维过程可视化在无人值守的情况下安全高效地进行运维随着数据中心业务日益繁杂凭借海量数据的积累人工智能大数据等技术在数据中心运维领域还可以实现更多应用智能化运维将从单点突破到全架构全场景的优化落地当前发展阶段距离实现真正的智能运维还有很长的路要走未来将呈现出无人化智能化数字孪生等典型特征三目标与理念1生产连续性对于数据中心业务管理人员来说用户的业务连续性取决于数据中心的生产连续性特别是在疫情期间用户企业尤其需要考虑数据中心在其业务连续性中发挥的关键作用如今业务连续性管理已经演变成了一门管理学科在数据中心中得到了越来越多的应用所谓业务连续性管理即BusinessContinuityManagement简称BCM这个概念最早脱胎于传统的IT备份与容灾恢复计划可以看作是组织进行一体化管理的过程通过业务连续性可以对潜在风险进行识别提供一个指导性框架来建立组织机构的恢复能力和有效应急响应能4数据中心智能化运维发展研究报告2023年力生产连续性则指数据中心基础设施层面进行智能化运行的过程设施根据既定的设计标准和架构冗余度结合业务需求和管理要求在不超过设计运行目标的异常情况下可以按照预定义模式持续运行即当产生外界故障变化时设施可以根据实际需要进行一定程度的资源调度和应急操作来保障生产连续性2运维即服务OaaSOperationasaService运维即服务是在借鉴了SaaSSoftwareasaService软件即服务和研究了业界数据中心服务转型的基础上提出的新理念近年来运维在数据中心全生命周期中的关注度逐渐提升其作为数据中心企业的软性核心竞争力之一管理模式逐步从以技术管理为中心向以服务为中心转变现如今运维管理已经成为企业产品价值链上的重要环节业界普遍认为实现服务的过程就是创造价值的过程如果达成了运维即服务的发展目标数据中心运维部门也会从传统的成本中心逐渐向价值中心转化3数据驱动管理数据驱动管理指通过底层监控系统采集海量的数据将数据进行组织形成信息并对关键信息进行整合和提炼实时准确地为数据中心运营者提供管理决策依据提高数据中心经营产出和效率数据驱动管理模式是在数据的基础上经过训练和拟合形成自动化的决策模型从而达成以数据和算法为驱动的预测性维护智能化告警目标全过程强调以数据洞察力驱动数据中心管理价值5数据中心智能化运维发展研究报告2023年二数据中心智能化运维发展核心2021年7月工业和信息化部新型数据中心发展三年行动计划2021-2023年明确提出聚焦新型数据中心供配电制冷IT和网络设备智能化系统等关键环节锻强补弱政策引导数据中心运维管理向智能化发展产业界关于智能运维等长期主义的呼声也越来越高数据中心智能化运维是新一代信息技术与数据中心设施平台服务三层架构和体系深度融合的解决方案深入分析与理解各部分的发展背景推进逻辑才能够更好地推动数据中心智能化运维发展一设施自动化运行产业高速发展下解放人力需求推动设施自动化运行当下数据中心行业面临着大规模高增长急交付的发展挑战运维侧面临成熟人才短缺人员流动性较大知识技能储备不足等诸多困难为应对产业智能化运维下一发展阶段对于无人值守及无人化下极致安全的发展需要电气暖通安防等自动化运行设施详见图3将结合软件能力从快速地发现问题及时地通报问题准确地判断问题高效地处置问题等方面助力数据中心破除人为主责的局面满足客户越来越高的SLAserviceLevelagreement服务等级协议要求6数据中心智能化运维发展研究报告2023年来源中国信息通信研究院图3自动化运行设施数据中心设施自动化运行的发展与演进与SAESocietyofAutomotiveEngineers美国汽车工程师学会对自动驾驶的成熟度定级相似早有研究表明自动驾驶汽车为社会安全和效率带来一定积极影响对于数据中心智能驾驶来说基础设施如能在故障时发挥其发现控制应急的能力取代人作为主责方完成相同的运行操作这其中终态目标也在于安全和效率数据中心安全高效运行是每一个运营者的核心目标传统数据中心想实现这些需要大量优质人才随着新基建双碳等国家战略发展一方面有限的人才资源制约着数据中心的快速健康发展另一方面过度依赖人也会增加数据中心运行的风险从安全角度来看据调查了解数据中心故障宕机场景中人为操作的事故占比超过60因数据中心面临的外部风险不确定性高如突发的疫情区域的限电极端的天气机电系统过于老化能效控制等方面想守住安全红线靠人是远远不够的需要建设自动化运行设施来助力数据中心实现更深层次的安全性从7数据中心智能化运维发展研究报告2023年效率角度来看和汽车的自动驾驶一样数据中心设施的自动化运行可以降低对人员的依赖提升效率数据中心智能驾驶是一项系统性工程需要通盘考虑打通从建设到运营硬件到软件各个环节不仅要培养观念与习惯还需要投入大量人力与时间成本类似于SAE将汽车自动驾驶级别的L0L5级划分清晰定义了人工驾驶Noautomation系统辅助驾驶Footoff部分自动驾驶Handsoff有条件自动驾驶Eyesoff高度自动驾驶Mindoff完全自动驾驶Chauffeured五个等级团体标准数据中心基础设施智能化运行管理评估方法将数据中心的电气暖通安防等设施在多种故障场景下取代人作为主责方达成相同的操作目标的程度进行了定义数据中心自动化运行发展从全部人工运行的初级阶段到全自动运行的高级阶段分为五个等级详见图4未来数据中心或将达成第四级别这一级别将实现自动预测性排障和分析全自动应急处置及AI能效管理在运行态几乎可以达到无人化没有运行模式限制完全执行运行操作任务和应急处置YesL5完全运行自动化NO有运行模式限制时完全执行运行操作任务和应急处置YesL4高度运行自动化NO有运行模式限制时完全执行运行操作任务但不应急处置YesL3有条件运行自动化NO持续执行监测完全执行控制YesL2部分运行自动化NO持续执行部分监测部分执行控制YesL1运行辅助来源中国信息通信研究院图4数据中心设施自动化运行能力分级之间的差异与关系8数据中心智能化运维发展研究报告2023年其中L1级人工为主设施辅助实现数据的监控采集具备设施及系统的故障报警电气自动切换能力目前行业内很多存量数据中心处于该级别L2级设施为人工辅助由人主责设施辅助共同完成任务无论设施的完成程度始终以人作为完成任务的主责方L3级更进一步的设施主控人工辅助实现半自动运行和远程控制故障后的应急操作可在设施半自动模式下完成初步实现数据中心解放运维人员的脚眼和手L4级设施全自动化运行可预测系统和设施劣化趋势和故障能基于自动化的能效调控措施实现极致能效初步实现数据中心解放运维人员大脑在较长时间内允许无人在场L5级无人运行设施全自动运行调度预测不期望人进行干预特殊情况下可由运维人员远程接管做到现场无人值守未来处于理想态的智能化数据中心软件业务部署会垂直贯通数据中心部件到上层的运维从原来的分层解耦变成垂直整合理想状态下智能运行的数据中心在运维效率部署方式和最终实施环节上和传统的数据中心完全不同与机器人技术结合的数据中心智能化巡检运维操作应用场景逐渐明朗驱动智能机器人规模化商用运维活动的稳定性与效率依赖于人员的排班技能现场表现等诸多方面数据中心智能化巡检运维机器人可以代替人工进行现场巡检硬件插拔或维修操作可以将人员带来的临场差异消弭进一步提升效率当前如机器人技术人工智能IoTInternetofThings物联网等多方面先进技术已取得了长足发展在工业领域机械自动控制系统已日趋成熟诸多如9数据中心智能化运维发展研究报告2023年机器人机械手臂AGVAutomatedGuidedVehicle自动导引运输车自动导航控制系统等新应用层出不穷这也使得各行各业对机器人的接受程度大幅提高其中不乏许多数据中心的用户未来数据中心内重复的标准操作可以逐步交由运维机器人进行助力数据中心达成用机器管理机器的愿景二平台智能化管理数字技术推动DCIM智能化发展监控管理等通用能力建设与应用将更加全面与深入数据中心逐渐走向大型化和集约化管理模块划分越来越精细化这也意味着成本的飙升以及对基础设施关键技术依赖的加剧与此同时IoTAI数字化3D数字孪生等新技术已广泛应用DCIM详见图5中监控管理运维管理运营管理安全管理等通用能力的高效建设精准应用是未来发展的重点建设方面DCIM将向基础设施和多个子系统集中化管理发展应用方面包括部件级设备级链路级数据中心级的运行状态关键参数故障告警等信息将向全局可视化发展以帮助管理者更直观地掌控数据中心运行状态10数据中心智能化运维发展研究报告2023年来源中国信息通信研究院图5DCIM的管理范畴与服务能力以运营管理能力中的容量管理为例一直以来数据中心企业追求相同成本下最大程度缩短项目上线交付时间企业用户持续投入建设IT系统与数据中心也是为了能够抢占市场先机支撑经营决策根据中国信通院数据显示当前我国数据中心规模超过600万架标准机架但数据中心资源利用率有待提升个别地区资源闲置率达到50造成一定资源浪费与此同时数据中心管理团队还面临另一个挑战即当前数据中心能不能敏捷调配算力资源以支持新业务的快速上线本质上容量管理主要解决的是资源调度问题其目标是为了应对非线性业务需求的增长可以弹性使用算力资源同时使得其成本可控满足用户业务性能要求容量管理是当前数据中心产业规模大型化发展趋势下的迫切需要和必然要求根据中国信通院发布的数据中心白皮书2022年11数据中心智能化运维发展研究报告2023年显示我国数据中心机架规模持续稳步增长大型及以上数据中心机架规模占比达到80成增长主力一方面受国家相关政策影响企业业务需求增长等因素驱动云计算数据中心的单体规模越来越大成千甚至上万机架的数据中心屡见不鲜超大型数据中心不断涌现另一方面大型云服务商大型互联网企业动辄需要管理数百个机房数万台机架这些机房和机架位作为主要的不动资产需要高效地利用供电制冷网络空间和承重容量避免每个资源维度的闲置或者超容实现整体效率最大化IT层面数据中心未来的发展趋势中多元化IT资源将在截然不同的业务和需求间动态分配若要实现智能敏捷地调配我们所关注的容量指标不仅仅指机位空间电量等动力指标算力也成为容量管理的重要部分需要有效利用平台或工具来实时监测计算网络存储等资源的使用情况并根据运行状态实时调整配置实现资源的有效利用长远来看DCIM可以将基础设施管理水平提升至更高层次的业务智能调配在下一阶段的新技术新产品或将更好得实现机架功耗服务器功耗网络端口利用率的微观优化如在机房功耗密度一定的情况下通过调配部分机架的功耗峰值达成机架内的最优解为进一步实现集群化数据中心在基础设施网络资源计算资源方面的宏观优化提供基础基础设施层面创新的DCIM容量管理可以提供数据中心当前物理状态并模拟未来添加迁移和变更物理设备的效果能够预测变更对空间供电制冷网络承重等容量管理方面的影响一般12数据中心智能化运维发展研究报告2023年而言容量和变更管理有模拟结果规划容量管理工作流程以及避免局部热点等方面的作用可让运营者对数据中心整体运营有更长远更全面的认知与规划数据中心在全生命周期运营中每天都上演着诸多资源调配NP-hard非确定性难题管理者需要快速判断出服务器的安装位置并综合考虑安装位置对现有分支电路的影响新增服务器对冗余和安全性的影响等因素在传统数据中心运营人员通常根据有限的零散的数据依靠个人经验进行判断决策如果判断错误那么当机柜超过电源容量时会导致服务器掉电等较为严重的问题发生而DCIM能够在测量机柜中每个设备的用电量后根据科学数据做出负载均衡决策除此之外还可以协助避免线路过载及断路器跳闸使得运营者有机会在宕机前做出合理调整如果某台机柜接近容量阈值DCIM还能够生成预测性模拟选项并进行评估以确定最佳的方法来降低该状况的发生基于基础设施与IT设施融合管理的目标智能化管理对象应覆盖基础设施电力制冷机柜安防IT设备服务器交换机存储及相关联的环境管理活动应贯穿数据中心基础设施全生命周期的运维运营行为提供集中监控资源规划日常运维成本优化等管理模块有效的运营管理系统可切实帮助数据中心保障基础设施的高可用并提高基础设施资源利用率降低能源消耗和人员综合成本并通过流程化管理日常作业提升服务水平提高数据中心经营产出和效率实时准确提供管理决策信息最终实现以数据驱动管理价值在此背景下数据中心智能化管理平台的建设宜遵循以用户需13数据中心智能化运维发展研究报告2023年求为导向以价值为目标的总体原则详见表1其核心价值应包括安全效率合规表1数据中心智能化运营管理平台建设原则以数据中心设施设备安全为目标依托多种物联技术进设施安全行在线数据采集通过机理数理分析手段实现故障事前预防预测事中敏捷感知事后精确处置以数据中心作业人身安全为目标通过标准化作业指人员安全引知识赋能实现高危操作可控风险规避安全以数据中心场地环境安全为目标对人员出入场地活环境安全动环境趋势进行规范审计和全面监控防患于未然以软硬件系统信息安全为目标系统健壮无漏洞数信息安全据资产可控可信产品技术不受外部制约以节能低碳降本为目标通过监测供电系统制冷系设施效率统质量效率应用数据分析手段发掘低效源头主动调优运行参数改善电能利用效率制冷供冷效率以提升人员运维工作效率为目标提供电子化标准化效率人员效率流程化操作工具打通线上线下作业壁垒提升日常作业效率服务响应能力提高人均运维产出以提升数据中心经营质量为目标平台智能支撑运营管运营效率理者精细化资源投放合理充分发挥基础设施存量价值提高运营收益合规管理合规以可审计可追溯为目标确保过程有迹可循来源中国信息通信研究院三体系精细化落地面向业务应用日趋严格的用户服务要求推动企业搭建低成本高效率的精细化运维体系随着新型数据中心东数西算等政策的落地与实施一大批数据中心项目纷纷上马新建数据中心以大规模超大规模为主海量的设备和复杂的系统为高效管理带来了挑战如14数据中心智能化运维发展研究报告2023年果缺乏与之相匹配的现代数据中心精细化运维手段粗放的基础设施IT网络管理和维护方式势必会造成电力和网络成本的浪费在对于网络体验算力服务要求日益严苛的今日难以保证用户方对于业务的高需求和高要求高效运维流程体系应随着业务发展战略迭代更新助力数据中心规范管理流程提升运维价值并不是建设应用好智能化管理平台自动化运行设施或其他更先进的器后就可以完全保障数据中心的有序运营一套行之有效的运维管理方法论可以帮助企业确立数据中心全生命周期运行维护管理的关键环节帮助运维团队提升运维管理效率高效挖掘运维价值管理方法论应随着企业发展变化而不断更新避免因重器轻道而产生运维团队自身熵增加之运维是数据中心全生命周期中历时最长的一个阶段运维体系建设及流程实施的重要性不言而喻数据中心的精细化运维是相对传统运维管理而言一种实现运维分工更精细运维质量更精益的管理体系只有在运维体系建设运维流程规范中不断突破与创新才能实现数据中心运维创效的高阶目标通过积极运用技术手段并建立一套运维体系可以全面覆盖数据中心运营的设备管理流程管理质量管理资源管理人员与组织管理各个关键环节所需要的框架及流程形成数据中心运维全生命周期的服务能力设备管理环节包括设备监控告警管理设备状态管理设备健康度管理等关键活动以设备健康度管理为例要依靠大数据人工智能等技术基于大量历史数据对设备健康情况和所15