AIOps 一场颠覆传统运维的盛筵
729
2023-02-20
本文目录一览:
这个其实就是说的有效监控、监管你的IT设备资源,IT应用的问题。下面的只重点说一下个人对服务器与服务器应用进行有效监管,其实,下面这个软件对网络设备、机房环境等IT运维同样有效,只是有其它的模块里。
我今天想说的是,你们服务器硬件都配置好后,怎么来监管你们家的服务器的,而且个人觉得服务器购置的时候,供应商那个亲热,与你以后的服务器运行维护的孤独冷清就如今年的天气,春夏秋冬,让你找不到北。
服务器我们装好了系统,运行应用后,就开始把我们的小心肝挂上了地雷线。什么时候CPU持续过高、内存占用太多,磁盘空间又不够了,系统又有日志报错,网卡流量太多,还在狂发包,数据库死锁,中间件又连不上,网站服务崩了,ERP报错运行不了,存储访问不了,一大堆千奇百怪的问题随时都有可能引爆从而带来老板的质询与质疑之声,也许中间还夹杂着同事的轻声抱怨,那时的我,表现机会与想死的风险齐飞。
可是一台服务器运维中这样,两台服务器又那样,特别是虚拟机构建的应用服务问题更多,十台,二十台,甚至更多的服务器与应用,你一个人管理的过来吗。疲惫与不定时的加班电话让我们这么有责任心的网管员的身体活在催魂的惊恐之中。
这些如何解决,如何有效监管服务器与服务器上的应用,你是一台一台地装上远程工具去远程查看,还是不定时去突击察看一下,还是每个早上上班下班都必备检查一遍,还是出了问题再查看,反正我有时还还得这个厂区跑那外厂区的机房中坐镇坚守半天,可这些基础、繁琐、重复的工作让我们的日常时间不堪重负。如何有效监管,记得我一直强调的是有效,
方法:工具软件
名称:WeADMIN ITOSS
功能:实时监管服务器的ping值,端口、URL、CPU、内存、磁盘、进程、服务、网卡、目录、系统事件日志、Syslog、SNMP Trap等等,监管的数据如返回值、读写速度、使用率、占用率、利用率、使用空间、剩余空间、物理设备的写入滞后时间、数据传输、接收速度。如陈列卡的I/O速率、传输速率等,数据库的性能参数,状态数值,死锁、连接数、缓冲池、游标数、事务数,空间量等等,邮件服务器的队列、发送状态,接收传输字节数、登陆时间等等,网站服务器的往返时间、文件大小、下载速率、流量情况等等。我这里只列举了部分的功能监管的部分参数。
经验:它针对各种应用有各种应用的监控机制和作为我们网管人员必须查看的一些状态参数等。这些信息非常基础,是我们资深高管级查找问题的关键数据与参考数据。也许如磁盘空间不够,它不能帮我们去自动增加空间,不能实实在在做那些我们具体解决的工作,但感觉它在帮我们每天对这个服务器与应用进行察看,检查,记录并综合来显示给我们看,我们可以分析一个时间段的趋势,判断问题所在,当然,智能的地方在于这些参数达到我们设定的阀值或者默认的经验值,就会给我们来告警,其一省去了我们每天的重复繁琐的采集状态数据的工作,其二借助数据我们综合分析服务器与应用的性能与问题所在,其三,达到警介值,发出告警,不会让我们平时没有觉察的情况下服务器与应用崩了我们才知道,再去瞄,已经为时晚了,只有重建,重恢复,重......,最重要的意义,我个人觉得,对我们的工作生活影响重大,至少,当我们最悲观的时候,它是我们面对质疑的神色进行辨解的证据,当然,我们工作不是为了去辨解委屈,用于分析解决才是王道,才会赢得价值的尊重,又跑了题,最大的贡献是我可以全盘掌握网管应该了解的服务器与应用的性能与实时状态,心里有了底,知己知彼,心不会忐忑,不会两眼一摸黑,不会慌乱,方便快捷找到症结,永除后患。说了很多,不知有没有看懂,总的来说就是在我们孤单的运维过程中,对服务器与服务器应用中的清晰明了,全在我的掌心掌控之中,逃不出五指山,这就是有效,不能了解何谓心明,不能掌控何谓有效。
我用的这个版本是不要付任何费用的,好像没有任何限制
上面是两张效果图
统一监控平台加强运维事件管理,说到底本质上也是一个监控系统,监控的基本能力是必不可少的,回归到监控的本质,先梳理下整个监控体系:
① 监控系统的本质是通过发现故障、解决故障、预防故障来为加强运维事件管理了保障业务的稳定。
② 监控体系一般来说包括数据采集、数据检测、告警管理、故障管理、视图管理和监控管理6大模块。而数据采集、数据检测和告警处理是监控的最小闭环,但如果想要真正把监控系统做好,那故障管理闭环、视图管理、监控管理的模块也缺一不可。
一、数据采集
1、采集方式
数据采集方式一般分为Agent模式和非Agent模式;
Agent模式包括插件采集、脚本采集、日志采集、进程采集、APM探针等
非Agent模式包括通用协议采集、Web拨测、API接口等
2、数据类型
监控的数据类型有指标、日志、跟踪数据三种类型。
指标数据是数值型的监控项,主要是通过维度来做标识。
日志数据是字符型的数据,主要是从中找一些关键字信息来做监控。
跟踪型数据反馈的是跟踪链路一个数据流转的过程,观察过程中的耗时性能是否正常。
3、采集频率
采集频率分秒级、分钟级、随机三种类型。常用的采集频率为分钟级。
4、采集传输
采集传输可按传输发起分类,也可按传输链路分类。
按传输发起分类有主动采集Pull(拉)、被动接收Push(推)
按传输链路分类有直连模式、Proxy传输。
其中Proxy传输不仅能解决监控数据跨网传输的问题,还可以缓解监控节点数量过多导致出现的数据传输的瓶颈,用Proxy实现数据分流。
5、数据存储
对于监控系统来说,主要有以下三种存储供选择
① 关系型数据库
例如MySQL、MSSQL、DB2;典型监控系统代表:Zabbix、SCOM、Tivoli;
由于数据库本身的限制,很难搞定海量监控的场景,有性能瓶颈,只在传统监控系统常用
② 时序数据库
为监控这种场景设计的数据库,擅长于指标数据存储和计算;例如InfluxDB、OpenTSDB(基于Hbase)、Prometheus等;典型监控系统代表:TICK监控框架、 Open-falcon、Prometheus
③ 全文检索数据库
这类型数据库主要用于日志型存储,对数据检索非常友好,例如Elasticsearch。
二、数据检测
1. 数据加工
① 数据清洗
数据清洗比如日志数据的清洗,因为日志数据是非结构化的数据,信息密度较低,因此需要从中提取有用的数据。
② 数据计算
很多原始性能数据不能直接用来判断数据是否产生异常。比如采集的数据是磁盘总量和磁盘使用量,如果要检测磁盘使用率,就需要对现有指标进行一个简单的四则运算,才能得到磁盘使用率。
③ 数据丰富
数据丰富就是给数据打上一些tags标签,比如打上主机、机房的标签,方便进行聚合计算。
④ 指标派生
指标派生指的是通过已有的指标,通过计算得出新的指标。
2. 检测算法
有固定规则和机器学习算法。固定算法是较为常见的算法,静态阈值、同比环比、自定义规则,而机器学习主要有动态基线、毛刺检测、指标预测、多指标关联检测等算法。
无论是固定规则还是机器学习,都会有相应的判断规则,即常见的< =和and/or的组合判断等。
三、告警管理
1. 告警丰富
告警丰富是为加强运维事件管理了后续告警事件分析做准备,需要辅助信息去判断该怎么处理、分析和通知。
告警丰富一般是通过规则,联动CMDB、知识库、作业历史记录等数据源,实现告警字段、关联信息的丰富;通过人工打Tags也是一种丰富方式,不过实际场景下由于人工成本高导致难以落地。
2. 告警收敛
告警收敛有三种思路:抑制、屏蔽和聚合
① 抑制
即抑制同样的问题,避免重复告警。常见的抑制方案有防抖抑制、依赖抑制、时间抑制、组合条件抑制、高可用抑制等。
② 屏蔽
屏蔽可预知的情况,比如变更维护期、固定的周期任务这些已经知道会发生的事件,心里已经有预期。
③ 聚合
聚合是把类似或相同的告警进行合并,因为可能反馈的是同一个现象。比如业务访问量升高,那承载业务的主机的CPU、内存、磁盘IO、网络IO等各项性能都会飙升,这样把这些性能指标都聚合到一块,更加便于告警的分析处理。
3. 告警通知
① 通知到人
通过一些常规的通知渠道,能够触达到人。
这样在没有人盯屏的时候,可以通过微信、短信、邮件触发到工作人员。
② 通知到系统
一般通过API推送给第三方系统,便于进行后续的事件处理
另外还需要支持自定义渠道扩展(比如企业里有自己的IM系统,可以自行接入)
四、故障管理
告警事件必须要处理有闭环,否则监控是没有意义的。
最常见还是人工处理:值班、工单、故障升级等。
经验积累可以把人工处理的故障积累到知识库里面,用于后续故障处理的参考。
自动处理,通过提取一些特定告警的固化的处理流程,实现特定场景的故障自愈;比如磁盘空间告警时把一些无用日志清掉。
智能分析主要是通过故障的关联分析、定位、预测等AI算法,进一步提升故障定位和处理的效率;
1. 视图管理
视图管理也属于增值性功能,主要是满足人的心理述求,做到心中有底,面向的角色很多(领导、管理员、值班员等)。
大屏:面向领导,提供全局概览
拓扑:面向运维人员,提供告警关联关系和影响面视图
仪表盘:面向运维人员,提供自定义的关注指标的视图
报表:面向运维人员、领导,提供一些统计汇总报表信息,例如周报、日报等
检索:面向运维人员,用于故障分析场景下的各类数据检索
2. 监控管理
监控管理是企业监控落地过程中的最大挑战。前5个模块都是监控系统对外提供的服务功能,而监控管理才是面向监控系统自身的管理和控制,关注真正落地的过程的功能呈现。主要有以下几个方面:
配置:简单、批量、自动
覆盖率:监控水平的衡量指标
指标库:监控指标的规范
移动端:随时随地处理问题
权限:使用控制
审计:管理合规
API:运维数据最大的来源,用于数据消费
自监控:自身稳定的保障
为了实现上述监控六大基础能力模块,加强运维事件管理我们可以按如下架构设计我们的统一监控平台。
主要分三层,接入层,能力层,功能层。
接入层主要考虑各种数据的接入,除了本身Agent和插件的采集接入,还需要支持第三方监控源的数据接入,才能算一个完整的统一监控平台。
能力层主要考虑监控的基础通用能力,包含数据采集模块、数据存储模块、数据加工模块、数据检测模块、AI分析模块。
功能层需要贴近用户使用场景,主要有管理、展示两类功能,在建设的过程中可以不断丰富功能场景。
另外,考虑到数据的关联关系,为未来的数据分析打下基础,监控和CMDB也需要紧密联动,所有的监控对象都应该用CMDB进行管理,另外,还可以配置驱动监控为指导理念,实现监控的自动上下线,告警通知自动识别负责人等场景,简化监控的维护管理。
为了统一监控平台能够在企业更好的落地,我们需要配备对应的管理体系,其中最重要的是指标管理体系。
指标管理体系的核心理念:
监控的指标体系是以CMDB为骨架,以监控指标为经脉,将整个统一监控平台的数据有机整合起来。
贯穿指标的生命周期管理,辅以指标的管理规范,保障监控平台长久有序的运行。
从企业业务应用的视角出发,一般将企业监控的对象分为6层,也可以根据企业自己的情况进行调整:
基础设施层
硬件设备层
操作系统层
组件服务层
应用性能层
业务运营层
发表评论
暂时没有评论,来抢沙发吧~