睿象云智能告警平台的分派策略
840
2023-02-14
本文目录一览:
[编者按]本文作者为陈伯龙运维紧急事件对外处理,云告警平台 OneAlert 创始人运维紧急事件对外处理,著《云计算与 OpenStack 》,在IT运营管理、云计算方面从业10多年。
互联网技术的发展,离不开运维支撑工作,没有零bug的程序,没有不出问题的系统,问题故障不可怕,可怕的是没能有序的处理:
如何有效处理紧急事件驱动的工作,成为(特别是运维主管)运维工作的关键。我接触了大量的各类型公司运维,从初创、中小、大型公司,总结和分享一些大多公司通用的on-call机制,帮助有序的处理紧急事件:
基本上都是围绕人、流程、工具三方面进行,参考了ITIL的管理思路,大家感兴趣也可以参考下,特别是其中的ITIL V3的运营管理。
大多公司都用了zabbix和nagios、open-falcon等监控工具,对硬件、网络、应用进行监控。可能会存在监控分散问题:
告警集中化,就是所有的生产监控发现的告警事件集中到一起,这样我们盯着一个平台就够了,同样也容易分析问题,是不是相同和类似原因。
如果监控工具单一,集中化不是最必要的,如何有序处理才是最核心的。特别运维团队是3-5人到数十/百人,就很有必要梳理下支撑流程和响应机制了。
如果管理比较细一些,还会进行业务拆分,形成一个矩阵,例如一线、二线根据不同专业,如负责网络和负责不同应用的团队。
另外还要考虑告警严重的程度级别,进行差异化处理,要求严格的同学一般会建立响应级别[1-3]或[1-5]:
那么问题来了,规划和设计挺好,如何落地呢?目前看zabbix、nagios、open-falcon等监控工具更多是聚焦如何发现问题,支撑流程属于处理问题的范畴,或者是说管理范畴,这一点目前市面上合适工具较少:
接触过一个互联网金融公司,设计了非常规范化的流程和P0-P5级别应急处理方案,涉及了网络、云平台、近50个应用研发团队。
分派升级
排班管理
再好的流程和设计,当时没有及时收到通知和处理,那么就会很郁闷了,最后一公里问题解决方式:
还支持几点:不同级别、不同时间段的设置,例如晚上严重的电话通知,白天工作时间就不用了。
这里面还存在一个问题,当告警规模大了后,特别是告警风暴的话,很容易撑爆邮箱或者是手机短信了,所以接下来就聊下告警风暴规避的问题。
这个问题比较大,基本上有些监控工具做了一部分,目前看也是一个业界难题,简单来说:
我们目前做了一些尝试分享下:
机器学习告警合并
如果告警量很大,告警后续处理和跟踪往往会依赖于外部团队(部门外或公司外)。但是监控告警粒度太细了,可能很多告警都是一个事情。如上面的告警风暴中,由于应用程序故障,引发引发了大量的异常,之后又产生连锁反应,其实就是一个事情,只需要处理一个事情就行。
一般来说一线人员会采用邮件或者电话方式,直接通知对应负责人,但是这个就很难追踪和事后分析,所以一套事件管理机制。
ITIL规范的事件Incident流程很有参考价值,感兴趣同学参考下。事件工单需要:
事件单
影响范围和紧急程度的交叉矩阵影响到优先级
On-Call机制建立后,通过告警和事件数据分析、建立起以数据指标驱动的团队文化,有机会和大家分享。
OneA lert 是 OneAPM 旗下产品,是国内第一个 SaaS 模式的云告警平台,集成国内外主流监控/支撑系统,实现一个平台上集中处理所有 IT 事件,提升 IT 可靠性。想阅读更多技术文章,请访问 OneAPM 官方技术博客 。
本文转自 OneAPM 官方博客
做好突发事件应对处置工作,应做到以下几点:
制定预案是基础。凡事预则立,不预则废。科学制定、适时演练、及时修订、不断完善各种应急预案,形成一个“相互衔接、配套协调、横向到边、纵向到底”的应急预案体系,是做好突发事件应对处置工作的基础环节。
加强储备是保障。加强应急物资、资金、人员的储备,是做好突发事件应对处置工作的有力保障。
一是物资储备,主要包括大型机械设备、运输工具、通讯设备、能源、砂石料、钢材、粮食、药品等。
二是资金准备,建立应急资金专账,以备急需。
三是人员准备,重点是加强应急救援队伍建设,主要包括公安、武警、消防、卫生、基干民兵、技术专家等应急分队准备。
及时报告是关键。突发事件发生的第一时间,是处置的黄金时间。
科学处置是核心。现场科学处置、控制事态发展、减少损失,是做好突发事件应对处置工作的核心。
一是根据突发事件的性质迅速出动具备相应处置能力的应急队伍,在第一时间赶到事发现场。
二是结合应急预案和现场事态情况,果断科学决策,采取得力有效措施迅速控制局面。
三是坚持“优先救人,救物次之”的原则。
四是超出处置能力的,迅速请求上级应急管理部门支援。
善后处理。事后恢复与重建,以及善后处理是做好突发事件应对处置工作的重点。
突发事件广义上可被理解为突然发生的事情:第一层的含义是事件发生、发展的速度很快,出乎意料;第二层的含义是事件难以应对,必须采取非常规方法来处理。狭义上,突发事件就是意外地突然发生的重大或敏感事件。
可分为自然灾害、事故灾难、公共卫生事件、社会安全事件等四类。
处置的六个原则:
以人为本,减轻危害。
统一领导,分级负责。
社会动员,协调联动。
属地先期处置。
依靠科学,专业处置。
鼓励创新,迅速高效。
关于运维紧急事件对外处理和运维紧急事件对外处理措施的介绍到此就结束了,不知道你从中找到你需要的信息了吗 ?如果你还想了解更多这方面的信息,记得收藏关注本站。 运维紧急事件对外处理的介绍就聊到这里吧,感谢你花时间阅读本站内容,更多关于运维紧急事件对外处理措施、运维紧急事件对外处理的信息别忘了在本站进行查找喔。发表评论
评论列表