AIOps 一场颠覆传统运维的盛筵
802
2023-01-12
本文目录一览:
AIOps如何落地,还是以具体案例来说比较容易理解。就拿擎创为北京农村商业银行做的项目来说。
项目背景:
近年来数字化转型的步伐愈发变快,随着北京农村商业银行业务规模的扩增以及业务形式的电子化加速,贯穿业务、市场、系统、应用、数据库、中间件、网络、安全等多方面的数据量迅速叠加堆积。然而,这些对于市场而言极具价值的巨量化数据并不集中,它们分散在银行的各中心服务器或设备之中,这使得银行的数据运维工作量越来越大,尤其是在日志的统一管理、监控、信息挖掘等方面极为明显。因此,北京农村商业银行对于信息技术提升和数据管理加强的需求日益加深。
根据监管部门对银行数据治理的相关指引以及中国银监会《商业银行信息科技风险管理指引》(银监发〔2009〕19号)中针对日志文件完整性、存留周期的相关要求,北京农村商业银行最终选择擎创科技助力其完善智能运维建设,保障其业务的平稳高效运行。
解决方案:
根据北京农村商业银行的需求以及现状,擎创科技通过以下手段为其建设运维大数据平台。
通过现分布式高可用,支持横向扩展,随着业务需要随时扩容平台节点;
通过高效数据采集手段,实现对现有IT环境的实时数据采集,打破各个孤立运维工具中的数据孤岛;
对所有运维数据进行集中高效的存储、查询及可视化展示;
支持结构化、非结构化的数据采集支撑;
内置AI智能日志分析引擎,实现日志异常检测、日志异常定位并辅助故障定位。
平台架构图如下:
创新点:
北京农村商业银行在运维大数据平台项目的建设中,采用流批一体的处理技术、流式窗口聚合方式,实现了实时采集、秒级处理、秒级查询,为运维人员提供高效的数据查询手段,为应用人员实现交易数据与日志的深度结合;
采用智能算法判断、故障根因定位,为运维人员提供便捷数据分析工具。充分挖掘了北京农村商业银行的运维数据价值、提升了运维管理水平、提高了运维效率。
建设成效:
建设日志治理平台和大数据平台,实现日志数据统一集中管理、KPI动态异常检测、日志智能聚类等功能。
日志治理+大数据平台(算法),当前日增日志6TB,设计容量10TB,热数据保存30天、冷数据保存3个月,大数据平台日志存档一年、指标类数据两年;
最高峰每秒处理日志500万条日志,其中最高按单笔业务交易日志行数达3000+行,经采集、数据提取、数据合并、数据丰富等数据处理后延时小于1s。
总结:
随着运维大数据平台的建设完成,北京农村商业银行实现了对各类运维日志数据的统一管理,能够对日志进行集中查询、聚类分析、快速分析、精细化分析等操作,结合监控告警的智能化处理,可以做到事前智能预警、事后快速定位故障并分析,进一步提升了银行数据中心的运维管理水平。
统一监控平台,说到底本质上也是一个监控系统,监控的基本能力是必不可少的,回归到监控的本质,先梳理下整个监控体系:
① 监控系统的本质是通过发现故障、解决故障、预防故障来为了保障业务的稳定。
② 监控体系一般来说包括数据采集、数据检测、告警管理、故障管理、视图管理和监控管理6大模块。而数据采集、数据检测和告警处理是监控的最小闭环,但如果想要真正把监控系统做好,那故障管理闭环、视图管理、监控管理的模块也缺一不可。
一、数据采集
1、采集方式
数据采集方式一般分为Agent模式和非Agent模式;
Agent模式包括插件采集、脚本采集、日志采集、进程采集、APM探针等
非Agent模式包括通用协议采集、Web拨测、API接口等
2、数据类型
监控的数据类型有指标、日志、跟踪数据三种类型。
指标数据是数值型的监控项,主要是通过维度来做标识。
日志数据是字符型的数据,主要是从中找一些关键字信息来做监控。
跟踪型数据反馈的是跟踪链路一个数据流转的过程,观察过程中的耗时性能是否正常。
3、采集频率
采集频率分秒级、分钟级、随机三种类型。常用的采集频率为分钟级。
4、采集传输
采集传输可按传输发起分类,也可按传输链路分类。
按传输发起分类有主动采集Pull(拉)、被动接收Push(推)
按传输链路分类有直连模式、Proxy传输。
其中Proxy传输不仅能解决监控数据跨网传输的问题,还可以缓解监控节点数量过多导致出现的数据传输的瓶颈,用Proxy实现数据分流。
5、数据存储
对于监控系统来说,主要有以下三种存储供选择
① 关系型数据库
例如MySQL、MSSQL、DB2;典型监控系统代表:Zabbix、SCOM、Tivoli;
由于数据库本身的限制,很难搞定海量监控的场景,有性能瓶颈,只在传统监控系统常用
② 时序数据库
为监控这种场景设计的数据库,擅长于指标数据存储和计算;例如InfluxDB、OpenTSDB(基于Hbase)、Prometheus等;典型监控系统代表:TICK监控框架、 Open-falcon、Prometheus
③ 全文检索数据库
这类型数据库主要用于日志型存储,对数据检索非常友好,例如Elasticsearch。
二、数据检测
1. 数据加工
① 数据清洗
数据清洗比如日志数据的清洗,因为日志数据是非结构化的数据,信息密度较低,因此需要从中提取有用的数据。
② 数据计算
很多原始性能数据不能直接用来判断数据是否产生异常。比如采集的数据是磁盘总量和磁盘使用量,如果要检测磁盘使用率,就需要对现有指标进行一个简单的四则运算,才能得到磁盘使用率。
③ 数据丰富
数据丰富就是给数据打上一些tags标签,比如打上主机、机房的标签,方便进行聚合计算。
④ 指标派生
指标派生指的是通过已有的指标,通过计算得出新的指标。
2. 检测算法
有固定规则和机器学习算法。固定算法是较为常见的算法,静态阈值、同比环比、自定义规则,而机器学习主要有动态基线、毛刺检测、指标预测、多指标关联检测等算法。
无论是固定规则还是机器学习,都会有相应的判断规则,即常见的< =和and/or的组合判断等。
三、告警管理
1. 告警丰富
告警丰富是为了后续告警事件分析做准备,需要辅助信息去判断该怎么处理、分析和通知。
告警丰富一般是通过规则,联动CMDB、知识库、作业历史记录等数据源,实现告警字段、关联信息的丰富;通过人工打Tags也是一种丰富方式,不过实际场景下由于人工成本高导致难以落地。
2. 告警收敛
告警收敛有三种思路:抑制、屏蔽和聚合
① 抑制
即抑制同样的问题,避免重复告警。常见的抑制方案有防抖抑制、依赖抑制、时间抑制、组合条件抑制、高可用抑制等。
② 屏蔽
屏蔽可预知的情况,比如变更维护期、固定的周期任务这些已经知道会发生的事件,心里已经有预期。
③ 聚合
聚合是把类似或相同的告警进行合并,因为可能反馈的是同一个现象。比如业务访问量升高,那承载业务的主机的CPU、内存、磁盘IO、网络IO等各项性能都会飙升,这样把这些性能指标都聚合到一块,更加便于告警的分析处理。
3. 告警通知
① 通知到人
通过一些常规的通知渠道,能够触达到人。
这样在没有人盯屏的时候,可以通过微信、短信、邮件触发到工作人员。
② 通知到系统
一般通过API推送给第三方系统,便于进行后续的事件处理
另外还需要支持自定义渠道扩展(比如企业里有自己的IM系统,可以自行接入)
四、故障管理
告警事件必须要处理有闭环,否则监控是没有意义的。
最常见还是人工处理:值班、工单、故障升级等。
经验积累可以把人工处理的故障积累到知识库里面,用于后续故障处理的参考。
自动处理,通过提取一些特定告警的固化的处理流程,实现特定场景的故障自愈;比如磁盘空间告警时把一些无用日志清掉。
智能分析主要是通过故障的关联分析、定位、预测等AI算法,进一步提升故障定位和处理的效率;
1. 视图管理
视图管理也属于增值性功能,主要是满足人的心理述求,做到心中有底,面向的角色很多(领导、管理员、值班员等)。
大屏:面向领导,提供全局概览
拓扑:面向运维人员,提供告警关联关系和影响面视图
仪表盘:面向运维人员,提供自定义的关注指标的视图
报表:面向运维人员、领导,提供一些统计汇总报表信息,例如周报、日报等
检索:面向运维人员,用于故障分析场景下的各类数据检索
2. 监控管理
监控管理是企业监控落地过程中的最大挑战。前5个模块都是监控系统对外提供的服务功能,而监控管理才是面向监控系统自身的管理和控制,关注真正落地的过程的功能呈现。主要有以下几个方面:
配置:简单、批量、自动
覆盖率:监控水平的衡量指标
指标库:监控指标的规范
移动端:随时随地处理问题
权限:使用控制
审计:管理合规
API:运维数据最大的来源,用于数据消费
自监控:自身稳定的保障
为了实现上述监控六大基础能力模块,我们可以按如下架构设计我们的统一监控平台。
主要分三层,接入层,能力层,功能层。
接入层主要考虑各种数据的接入,除了本身Agent和插件的采集接入,还需要支持第三方监控源的数据接入,才能算一个完整的统一监控平台。
能力层主要考虑监控的基础通用能力,包含数据采集模块、数据存储模块、数据加工模块、数据检测模块、AI分析模块。
功能层需要贴近用户使用场景,主要有管理、展示两类功能,在建设的过程中可以不断丰富功能场景。
另外,考虑到数据的关联关系,为未来的数据分析打下基础,监控和CMDB也需要紧密联动,所有的监控对象都应该用CMDB进行管理,另外,还可以配置驱动监控为指导理念,实现监控的自动上下线,告警通知自动识别负责人等场景,简化监控的维护管理。
为了统一监控平台能够在企业更好的落地,我们需要配备对应的管理体系,其中最重要的是指标管理体系。
指标管理体系的核心理念:
监控的指标体系是以CMDB为骨架,以监控指标为经脉,将整个统一监控平台的数据有机整合起来。
贯穿指标的生命周期管理,辅以指标的管理规范,保障监控平台长久有序的运行。
从企业业务应用的视角出发,一般将企业监控的对象分为6层,也可以根据企业自己的情况进行调整:
基础设施层
硬件设备层
操作系统层
组件服务层
应用性能层
业务运营层
一生二AIOps总结,二生三,三生万物。三年之后,浪潮存储完成了从“利基者”向“挑战者”AIOps总结的挑战。
日前, Gartner公布2020年全球主存储魔力象限报告(Magic Quadrant for Primary Storage Arrays),包括Dell、Pure Storage、NetApp、HPE、Infinidat、Hitachi Vantara、浪潮在内的13家全球主流存储厂商入选。其中,浪潮存储实现跨象限晋升,从利基者象限晋级到挑战者象限,成为本年度唯一实现象限跨越的存储厂商。
跨越了象限 ,“挑战者”浪潮存储如何应对未来道路上更大的挑战?未来,浪潮存储应该如何再次实现象限的跨越,成为全球存储市场的“领导者”?
在发布2020年最新版主流存储阵列魔力象限报告中,Gartner将主流存储阵列定义为全闪存或混合闪存及磁盘本地存储阵列,提供块服务(结构化数据工作负载)以及可能的文件和对象访问。
针对主存储市场未来走向,Gartner分析师还列出了三个战略规划设想:
总结来说,未来随着企业数字化转型加速推进,NVMe、AIOps、公有云集成等新技术将重塑下一代主存储系统。
先看NVMe,如果说全闪存是未来存储市场的大势所趋,那么NVMe SSD则是全闪存市场的发展大势。如今,全球各大存储厂商都在加速推出基于NVMe的新一代存储产品,甚至,NVMe已经被认为是存储领域的事实标准。
同时,存储系统的生命周期是一个复杂的体系,解决存储系统的复杂生命周期运行和管理需要AI技术的加持,例如,利用AIOps做内部负载的识别,模式特征识别,把硬件资源使用率调到最高位置,从运维管理角度打造更易用的存储。
除此之外,云计算使得企业的数据分布从本地的数据中心扩展到了更高算力、更大空间的公有云平台。在整个IT架构当中,存储是最接近数据的行业,要能够帮助应用企业实现自身的数据中心与公有云平台之间更密切关联,以期建立一个顺畅的数据流动模式。
这是主存储市场的大势,也是存储厂商未来发展的方向。
对于浪潮的跨象限,Gartner这样评价,"浪潮存储产品组合包括HF和AS系列,能够满足用户对中、高端存储的需求。在评估期间浪潮存储发布了基于端到端NVMe技术的全闪存阵列HF5000G5,同时发布了适用于K8S环境的CSI驱动程序并对AIOps平台进行了升级,实现了整体软件和平台功能的增强"。
从中可以看到,浪潮的“晋级”与当下主存储市场的发展趋势高度吻合。
其一,市场突破:
浪潮存储首席架构师孙斌分享了一组数据,浪潮存储的大项目,即10万到40万美元之间的订单,在今年实现了翻倍增长,这表明浪潮存储的产品正被一些大型企业所选择。销售方面,浪潮存储30%的订单是通过ISV、SI系统集成商以及分销商等销售,这一比例相比之前提高了10个点,这证明了浪潮存储还在赋能合作伙伴。
浪潮存储有近二十年的技术创新和积累,在行业用户中占据重要份额。其中包括在通信行业,浪潮存储三年4次中标中移动分布式存储集采,特别是在2020年浪潮高端存储中标中移动核心业务系统,为中国移动的数据要素“托底”;在科研行业,浪潮存储承载中国天眼天文研究、清华大学活脑成像、复旦大学类脑研究、华中大脑图谱研究、中山大学精准医疗研究等等行业Top用户的海量数据。与此同时浪潮存储开始在俄罗斯、德国、波兰、日本、韩国等海外市场进行推广。
其二,技术突破:
从2019年Q3到2020年Q2,一年时间内,浪潮申请受理专利超过一千件,大约三分之一都是跟全闪存有关。浪潮存储开发了NVMe SSD,也在积极参与行业和全闪的标准以及测试规范,以及企业的标准规范建设。同时,浪潮存储也在积极和国内一流高校,研究所,像清华大学、华中 科技 大学等在存储的前沿新兴的技术领域进行合作。
浪潮存储基于“云存智用 运筹新数据”理念,在统一存储领域持续加大投入,推出了业界首款搭载傲腾双端口NVMe SSD的全闪存储,基于iTurbo智能引擎技术进一步提升存储系统的智能感知、多路径选择、自组织和调用的能力,目前浪潮存储在SPC-1中包揽了16控、8控、单位成本性能测试的全球最高成绩。
从“利基者”到“挑战者”,意味着浪潮存储的产品和市场实力得到全面跃升,并且未来有机会成为行业领袖。
随着新基建的加速推动和数字经济的快速发展,一个全新的数据时代正在扑面而来。
数据作为新生产要素,在人工智能、大数据、5G新技术驱动下,发生了本质改变,从过去“人工采集、人工干预”过渡到现在“机器产生、机器处理”的新时代,数据类型越来越丰富、数据量的规模也越来越大,数据正在成为管理、控制、生产、服务、决策等环节重要的要素,需要从采、存、管、用进行全生命周期提速。
新的数据时代,需要新的存储理念,也孕育着新的市场机会。“挑战者”浪潮存储能否借机再次实现象限的晋级呢?
聚焦新数据时代,浪潮存储提出了“云存智用、运筹新数据”的存储理念,聚焦极致技术、存储即平台、数据“系”存储基础设施的打造,希望通过“理念、技术、产品、方案”四个关键要素的闭环,加速数据流动、数据处理、数据共享、数据在线和数据安全,帮助企业彻底释放数据价值。如今,浪潮存储正全面推进端到端NVMe、智能运维、多云对接等新兴技术在存储产品中的应用,驱动企业数字化转型。
由于在行业新场景领域的深厚积累,浪潮存储收获了Gartner的高度认可,从象限晋级的背后可以看出,不论在产品性能、市场地位,还是在用户满意度上,浪潮存储都交出了一份满意的“答卷”。
未来魔力象限,AIOps总结我们能否见到“领导者”浪潮存储?这正是浪潮存储接下来的新挑战。
关于AIOps总结和ai总结分析的介绍到此就结束了,不知道你从中找到你需要的信息了吗 ?如果你还想了解更多这方面的信息,记得收藏关注本站。 AIOps总结的介绍就聊到这里吧,感谢你花时间阅读本站内容,更多关于ai总结分析、AIOps总结的信息别忘了在本站进行查找喔。发表评论
暂时没有评论,来抢沙发吧~