运维故障处理思路上课讲义.doc

运维故障处理思路精品文档事件/故障处理应该要有什么思路 导读：在讲解事件、故障处理思路前，我先讲一个故障场景（以呼叫中心系统作为一例子）：业务人员反映呼叫中心系统运行缓慢，部份电话在自助语言环节系统处理超时，话务转人工座席，人工座席出现爆线情况。运维人员开始忙活了，查资源使用情况、查服务是否正常、查日志是否报错、查交易量还有没有时间不知不觉的在敲键盘、敲键盘、敲键盘中过去，但是原因还未定位。经理过来了解情况：“系统恢复了吗？”、“故障影响是什么？”、“交易中断了吗？”运维人员赶紧敲键盘，写sql，看交易量；敲键盘，写命令，看系统资源、情况最终，定位到问题原因是其中一个功能没有控制返回数量，导致内存泄露。针对这个故障，业务希望运维能否更快的解决故障的恢复，经理希望制定优化呼叫中心故障处理流程，做了以下几件事：1. 优先故障处理过程的时间”能通过鼠标完成的工作，不要用键盘“2. 提前发现故障，加强监控“技术早于业务发现问题，监控不仅是报警，还要协助故障定位”3. 完善故障应急方案“应急方案是最新的、准确的、简单明了的”4. 长远目标：故障自愈”能固化的操作自动化，能机器做的让机器做“下面将从故障常见的处理方法开始介绍，再从故障前的准备工作（完善监控、制定应急方案等方式）来解决经理提出的问题，并提出未来解决故障的想法。1、常见的方法：1）确定故障现象并初判问题影响在处理故障前，运维人员首先要知道故障现象，故障现象直接决定故障应急方案的制定，这依赖于运维人员需要对应用系统的整体功能有一定的熟悉程度。确认了故障现象后，才能指导运维人员初判断故障影响。2）应急恢复运维最基本的指标就是系统可用性，应急恢复的时效性是系统可用性的关键指标。有了上述故障现象与影响的判断后，就可以制定故障应急操作，故障应急有很多，比如： 服务整体性能下降或异常，可以考虑重启服务； 应用做过变更，可以考虑是否需要回切变更； 资源不足，可以考虑应急扩容； 应用性能问题，可以考虑调整应用参数、日志参数； 数据库繁忙，可以考虑通过数据库快照分析，优化SQL； 应用功能设计有误，可以考虑紧急关闭功能菜单； 还有很多另外，需要补充的是，在故障应急前，在有条件的情况需要保存当前系统场景，比如在杀进程前，可以先抓个CORE文件或数据库快照文件。3）快速定位故障原因 是否为偶发性、是否可重现故障现象是否可以重现，对于快速解决问题很重要，能重现说明总会有办法或工具帮助我们定位到问题原因，而且能重现的故障往往可能是服务异常、变更等工作导致的问题。但，如果故障是偶发性的，是有极小概率出现的，则比较难排查，这依赖于系统是否有足够的故障期间的现场信息来决定是否可以定位到总是原因。 是否进行过相关变更大部份故障是由于变更导致，确定故障现象后，如果有应的变更，有助于从变更角度出现分析是否是变更引起，进而快速定位故障并准备好回切等应急方案。 是否可缩小范围一方面应用系统提倡解耦，一支交易会流经不同的应用系统及模块；另一方面，故障可能由于应用、系统软件、硬件、网络等环节的问题。在排查故障原因时应该避免全面性的排查，建议先把问题范围缩小到一定程序后再开始协调关联团队排查。 关联方配合分析问题与第（3）点避免同时各关联团队同时无头绪的排查的同时，对于牵头方在缩小范围后需要开放的态度去请求关联方配合定位，而对于关联方则需要有积极配合的工作态度。 是否有足够的日志定位故障原因，最常用的方法就是分析应用日志，对运维人员不仅需要知道业务功能对应哪个服务进程，还要知道这个服务进程对应的哪些应用日志，并具备一些简单的应用日志异常错误的判断能力。 是否有core或dump等文件故障期间的系统现场很重要，这个在故障应急前建议在有条件的情况下留下系统现场的文件，比如COREDUMP，或TRACE采集信息等，备份好一些可能被覆盖的日志等。上述是一般性的故障常见的方法，在重大故障或多方处理的故障出现时，往往小范围的排查不利于快速解决，需要启动紧急处理的流程，建议可以考虑以下沟通： 召集相关人员 描述故障现状 说明正常应用逻辑流程 陈述变更 排查进展，展示信息 领导决策2、完善监控1）从监控可视化上完善完善的监控策略需要有统一的可视化操作界面，在制定完善的监控策略后，故障处理人员需要能够快速的看到相应的运行数据，比如：能够看到一段时间的趋势、故障期间的数据表现、性能分析的情况等等数据，且这些数据可以提前制定好策略直接推出分析结果给故障处理人员，这样就大大提高了故障的处理效率，以呼叫中心系统为例，需要提前配置好以下实时交易数据，以便故障定位：-交易性能数据：平均交易耗时、系统内部模块交易耗时（IVR交易耗时、接口总线交易耗时）、关联系统交易耗时（核心交易耗时、工单系统交易耗时等）-重要交易指标数据：交易量、IVR交易量、话务量、座席通话率、核心交易笔数、工单等系统交易量-交易异常情况数据：交易成功率、失败率、错误码最多交易-按服务器分析交易数据：按server统计各服务交易处理笔数，交易总耗时有了以上交易数据，并通过监控按一定频率统计，运维人员在出现故障时，通过鼠标即点击即可看到故障什么时候开始，是系统内部有问题还是关联系统有问题，最突出的交易是哪一支，各服务器交易量是否均衡等情况。2）从监控面上完善监控最基本的工作就是实现对负载均衡设备、网络设备、服务器、存储设备、安全设备、数据库、中间件及应用软件等IT资源的全面监控管理。在应用软件类的监控工作中，不仅需要有服务进程、端口等监控，还需要有业务、交易层的监控。全面性的应用监控可以让故障提前预警，并保存了影响应用运行环境的数据，以缩短故障处理时间。3）从监控告警上完善完善的监控策略需要有清晰的监控告警提示，值班人员要以根据监控告警即可作出简单的问题定位与应急处理方案。比如类似以下的监控短信：22时，【理财应用系统】中【应用服务器LC_APPsvrA 10.2.111.111】的【前置应用模块】出现【应用端口：9080】不存在，该端口作用【提供理财应用处理（负载均衡部署）】，原因可能为【SERVER1服务异常停止】，监控系统己进行以下应急处理【自动执行端口进程启动】，该事件紧急程度【高】。管理员可以通过短信内容看到哪个系统、哪个应用、哪个模块出了什么问题，可能是什么原因，对业务有什么影响，是否需要马上处理（比如凌晨出现此预警是否可以延迟到次日处理）等信息。4)从监控分析上完善完善的监控策略不仅需要有实时的数据告警，也要有汇总数据的分析告警,实时数据分析的告警的重要性不用多说，对于汇总分析的数据则能发现潜在风险，同时也为分析疑难杂症提供帮忙。5)从监控主动性上完善监控不仅仅是报警，它还可以做得更多，只要我们想办法赋予它主动解决事件的规则，它便有为管理员处理故障的能力。3、应急方案提前制定好故障应急方案是很有必要的，但在日常工作过程中我们的应急方案遇到一些问题：1）应急方案缺乏持续维护，缺乏演练，信息不及时、不准确；2）应急方案过于追求大而全，导致不利于阅读与使用；3）应急方案形式大于实际使用效果，方案针对性不强；4）只关注应急方案的内容，但没有关注运维人员对方案的理解；针对上述常见问题，我认为应急方案需要做到以下几点：1）内容精&简很多人可能会认为故障出现的形式各种各样，所以应急方案需要涉及到方方面面。但实际的故障处理过程中，我们可以发现其实我们的应急措施往往重复使用几个常用的步骤，所以我认为应急方案要有重点，如果一个应急方案可以应对平时故障处理80%的场景，那这个应急手册应该是合格的。过于追求影响应用系统方方面面的内容，会导致这个方案可读性变差，最终变更一个应付检查的文档。以下是我觉得应用系统应急方案应该有的内容：（1）系统级：能知道当前应用系统在整个交易中的角色，当前系统出现问题或上下游出现问题时，可以知道如何配合上下游分析问题，比如：上下游系统如何通讯，通讯是否有唯一的关键字等。另外，系统级里还涉及一些基本应急操作，比如扩容、系统及网络参数调整等。（2）服务级：能知道这个服务影响什么业务，服务涉及的日志、程序、配置文件在哪里，如何检查服务是否正常，如何重启服务，如何调整应用级参数等。（3）交易级：能知道如何查到某支或某类交易出现了问题，是大面积、局部，还是偶发性问题，能用数据说明交易影响的情况，能定位到交易报错的信息。这里最常用的方法就是数据库查询或工具的使用。知道最重要的交易如何检查是否正常，重要的定时任务的应急处理方案，比如开业、换日、对账的时间要求及应急措施。（4）辅助工具的使用：有时候，需要借助一些工具或自动化工具辅助分析并应急，这时需要有辅助工具如何使用的方法。（5）沟通方案：沟通方案涉及通讯录，包括上下游系统、第三方单位、业务部门等渠道。（6）其它：上述5点内容如何都完备，相信这个应急手册己可以解决80%的故障恢复工作。2）应急方案是一项持续的工作有了应急方案，如何让运维人员持续去更新是难点。我认为要解决这个难点，需要先让运维人员经常使用这个手册。如果一个手册没有场景可以用，那就需要管理者为运维人员创造机会去使用这个手册，比如应急演练。3）关注运维人员对应用关键信息的认识前两点关注了手册，最后一点我觉得有必要关注使用这个手册的人。有些运维人员认为应用运维人员没有能力去把应用系统本身的内容了解得很透彻，所以应用运维人员在故障处理过程中的地位很尴尬，运维人员掌握操作权，但却不知道应该操作什么。对此，我认同应用运维人员不需要掌握应用系统的业务功能，但我觉得就对应用系统本身来讲应用运维人员需要具备以下最基本的能力：（1）知道应用系统这个是干什么的，基本的业务是什么；（2）知道应用架构部署、上下游系统逻辑关系；（3）知道应用下的服务的作用、端口、服务级的应急处理，日志等数据信息如何找到并简单定位。（4）知道应用系统重要的时间点及任务，比如开业、停业、换日、定时任务的时间点以及如何判断这些任务是否正确（5）知道最重要的几支交易的流程；（6）知道常见数据库表结构，并能使用。4、智能化事件处理处理方法如下图（详细的智能化涉及监控、规则引擎、配置工具、CMDB、应用配置库等模块协同工作，具体介绍后续分析）人过四十，已然不惑。我们听过别人的歌，也唱过自己的曲，但谁也逃不过岁月的审视，逃不过现实的残酷。如若，把心中的杂念抛开，苟且的日子里，其实也能无比诗意。借一些时光，寻一处宁静，听听花开，看看花落，翻一本爱读的书，悟一段哲人的赠言，原来，日升月落，一切还是那么美。洗不净的浮沉，留给雨天；悟不透的凡事，交给时间。很多时候，人生的遗憾，不是因为没有实现，而是沉于悲伤，错过了打开心结的时机。有人说工作忙、应酬多，哪有那么多的闲情逸致啊？记得鲁迅有句话：“时间就像海绵里的水，只要挤总是有的。”不明花语，却逢花季。一路行走，在渐行渐远的时光中，命运会给你一次次洗牌，但玩牌的始终是你自己。坦白的说，我们遇到困扰，经常会放大自己的苦，虐待自己，然后落个遍体鳞伤，可怜兮兮地向世界宣告：自己没救了！可是，那又怎样？因为，大多数人关心的都是自己。一个人在成年后，最畅快的事，莫过于经过一番努力后，重新认识自己，改变自己。学会了独自、沉默，不轻易诉说。因为，更多的时候，诉说毫无意义。伤心也好，开心也好，过去了，都是曾经。每个人都要追寻活下去的理由，心怀美好，期待美好，这个世界，就没有那么糟糕。或许，你也会有这样的情节，两个人坐在一起，杂乱无章的聊天，突然你感到无聊，你渴望安静，你想一个人咀嚼内心的悲与喜。透过窗格，发着呆，走着神，搜索不到要附和的词。那一刻，你明白了，这世间不缺一起品茗的人，缺的是一个与你同步的灵魂。没有了期望的懂，还是把故事留给自己吧！每个人都是一座孤岛，颠沛流离，浪迹天涯。有时候，你以为找到了知己，其实，你们根本就是两个世界的人。花，只有在凋零的时候，才懂得永恒就是在落红中重生；人，只有在落魄的时候，才明白力量就是在破土中崛起？.因为防备，因为经历，我们学会了掩饰，掩饰自己内心的某些真实，也在真实中，扬起无懈可击的微笑，解决一个又一个的困扰。人生最容易犯的一个错误，就是把逝去的当作最美的风景。所以，不要活在虚妄的世界，不要对曾经存在假设，不要指望别人太多。有些情，只可随缘，不可勉强；有些人，只可浅交，不可入深；有些话，只可会意，不可说穿。或许，有这么一段情，陪你度过漫长冰冷的寒冬；有那样一个人，给你抑郁的天空画上了温暖的春阳。但时光，总会吹散很多往事，把过去一片片分割，移植到不同区域，并贴上标签，印着不同的定义，也定义着自己的人生态度。正如庄子所说：“唯至人乃能游于世不避，顺人而不失己。”外在的世界，只是一个形式，而你内在的世界，才是真正的江山。丰富自己，取悦自己，随缘，随顺，随境，你的心才会敞开，才会接纳更多的有可能。这样的人生，眼睛里的笑意，尽是踏实与真味。年少时，那些说给蓝天白云的梦想，早已遗忘在风中，再也飞不到岁月的枝头。褪去稚气与懵懂，我更喜欢现在的自己，心里撑着宽阔，却不动声色。即便，一份静谧的从容是多么的难，但我依旧期待。我相信，人生还会很长，还会一直邂逅，但最美的，必是那个明天的自己。收集于网络，如有侵权请联系管理员删除