一篇文章让你明白运维发展的方向

运维人员对公司互联网业务所依赖的基础设施、基础服务、线上业务进行稳定 性加强，进行日常巡检发现服务可能存在的隐患，对整体架构进行优化以屏蔽常见 的运行故障，多数据中接入提高业务的容灾能力，通过监控、日志分析等技术手段， 及时发现和响应服务故障，减少服务中断的时间，使公司的互联网业务符合预期的 可用性要求，持续稳定地为用户提供务。运维工作分类运维的工作方向比较多，随着业务规模的不断发展，越成熟的互联网公司，运 维岗位会划分得越细。当前很多大型的互联网公司，在初创时期只有系统运维，随 着模、服务质量的要求，也逐渐进行了工作细分。一般情况下运维团队的工作分类（见图1-1）和职责如下。图1-1运维团队的工作分类系统运维系统运维负责IDC、网络、CDN和基础服务的建设（LVS、NTP、DNS）；负责资产管理，服务器选型、交付和维修。详细的工作职责如下：IDC数据中心建设收集业务需求，预估未来数据中心的发展规模，从骨干网的分布，数据中心建 筑，以及Internet接入、网络攻击防御能力、扩容能力、空间预留、外接专线能力、现场服务支撑能力等方面评估选型数据 中心。负责数据中心的建设、现场维护工作。网络建设设计及规划生产网络架构，这里面包括：数据中心网络架构、传输网架构、CDN 网络架构等，以及网络调优等日常运维工作。LVS负载均衡和S NAT建设LVS是整个站点架构中的流量入口，根据网络规模和业务需求，构建负载均衡 集群；完成网络与业务服务器的衔接，提供高性能、高可用的负载调度能力，以及 统一的网络层防攻击能力；SNAT集中提供数据中心的公网访问服务，通过集群化 部署，保证出网服务的高性能与高可用。CDNX作划分为第三方和自建两部分。建立第三方CDN的选型和调度控制；根 据业务发展趋势，规划CDN新节点建设布局；完善CDN业务及监控，保障CDN系统 稳定、高效运行；分析业务加速频道的文件特性和数量，制定最优的加速策略和资 源匹配；负责用户劫持等CDN日常故障排查工作。服务器选型、交付和维护负责服务器的测试选型，包含服务器整机、部件的基础性测试和业务测试，降 低整机功率，提升机架部署密度等。结合对公司业务的了解，推广新硬件、新方案 减少业务的服务器投入规模。负责服务器硬件故障的诊断定位，服务器硬件监控、 健康检查工具的开发和维护。OS、内核选型和OS相关维护工作负责整体平台的OS选型、定制和内核优化， 以及Patch的更新和内部版本发布；建立基础的YUM包管理和分发中心，提供常用 包版本库;跟进日常各类OS相关故障;针对不同的业务类型，提供定向的优化支持。资产管理记录和管理运维相关的基础物理信息，包括数据中心、网络、机柜、服务器、 ACL、IP等各种资源信息，制定有效的流程，确保信息的准确性；开放API接口， 为自动化运维提供数据支持。基础服务建设业务对DNS、NTP、SYSLOG等基础服务的依赖非常高，需要设计高可用架构 避免单点，提供稳定的基础服务。应用运维应用运维负责线上服务的变更、服务状态监控、服务容灾和数据备份等工作， 对服务进行例行排查、故障应急处理等工作。详细的工作职责如下所述。设计评审在产品研发阶段，参与产品设计评审，从运维的角度提出评审意见，使服务满 足运维准入的高可用要求。服务管理负责制定线上业务升级变更及回滚方案，并进行变更实施。掌握所负责的服务 及服务间关联关系、服务依赖的各种资源。能够发现服务上的缺陷，及时通报并推 进解决。制定服务稳定性指标及准入标准，同时不断完善和优化程序和系统的功能、 效率，提高运行质量。完善监控内容，提高报警准确度。在线上服务出现故障时， 第一时间响应，对已知线上故障能按流程进行通报并按预案执行，未知故障组织相 关人员联合排障。资源管理对各服务的服务器资产进行管理，梳理服务器资源状况、数据中心分布情况、 网络专线及带宽情况，能够合理使用服务器资源，根据不同服务的需求，分配不同 配置的服务器，确保服务器资源的充分利用。例行检查制定服务例行排查点，并不断完善。根据制定的服务排查点，对服务进行定期 检查。对排查过程中发现的问题，及时进行追查，排除可能存在的隐患。预案管理确定服务所需的各项监控、系统指标的阈值或临界点，以及出现该情况后的处 理预案。建立和更新服务预案文档，并根据日常故障情况不断补充完善，提高预案 完备性。能够制定和评审各类预案，周期性进行预案演练，确保预案的可执行性。数据备份制定数据备份策略，按规范进行数据备份工作。保证数据备份的可用性和完整 性，定期开展数据恢复性测试。数据库运维数据库运维负责数据存储方案设计、数据库表设计、索引设计和SQL优化，对 数据库进行变更、监控、备份、高可用设计等工作。详细的工作职责如下所述。设计评审在产品研发初始阶段，参与设计方案评审，从DBA的角度提出数据存储方案、 库表设计方案、SQL开发标准、索引设计方案等，使服务满足数据库使用的高可用、 高性能要求。容量规划掌握所负责服务的数据库的容量上限，清楚地了解当前瓶颈点，当服务还未到 达容量上限时，及时进行优化、分拆或者扩容。数据备份与灾备制定数据备份与灾备策略，定期完成数据恢复性测试，保证数据备份的可用性 和完整性。数据库监控完善数据库存活和性能监控，及时了解数据库运行状态及故障。数据库安全建设数据库账号体系，严格控制账号权限与开放范围，降低误操作和数据泄露 的风险；加强离线备份数据的管理，降低数据泄露的风险。数据库高可用和性能优化对数据库单点风险和故障设计相应的切换方案，降低故障对数据库服务的影响; 不断对数据库整体性能进行优化，包括新存储方案引进、硬件优化、文件系统优化、 数据库优化、SQL优化等，在保障成本不增加或者少量增加的情况下，数据库可以 支撑更多的业务请求。自动化系统建设设计开发数据库自动化运维系统，包括数据库部署、自动扩容、分库分表、权 限管理、备份恢复、SQL审核和上线、故障切换等功能。运维研发运维研发负责通用的运维平台设计和研发工作，如：资产管理、监控系统、运 维平台、数据权限管理系统等。提供各种API供运维或研发人员使用，封装更高层 的自动化运维系统。详细的工作职责如下所述。运维平台记录和管理服务及其关联关系，协助运维人员自动化、流程化地完成日常运维 操作，包括机器管理、重启、改名、初始化、域名管理、流量切换和故障预案实施 等。监控系统负责监控系统的设计、开发工作，完成公司服务器和各种网络设备的资源指标、 线上业务运行指标的收集、告警、存储、分析、展示和数据挖掘等工作，持续提高 告警的及时性、准确性和智能性，促进公司服务器资源的合理化调配。自动化部署系统参与部署自动化系统的开发，负责自动化部署系统所需要的基础数据和信息， 负责权限管理、API开发、Web端开发。结合云计算，研发和提供PaaS相关高可用 平台，进一步提高服务的部署速度和用户体验，提升资源利用率。运维安全运维安全负责网络、系统和业务等方面的安全加固工作，进行常规的安全扫描、 渗透测试，进行安全工具和系统研发以及安全事件应急处理。详细的工作职责如下 所述。安全制度建立根据公司内部的具体流程，制定切实可行，且行之有效的安全制度。安全培训定期向员工提供具有针对性的安全培训和考核，在全公司内建立安全负责人制 度。风险评估通过黑白盒测试和检查机制，定期产生对物理网络、服务器、业务应用、用户 数据等方面的总体风险评估结果。安全建设根据风险评估结果，加固最薄弱的环节，包括设计安全防线、部署安全设备、 及时更新补丁、防御病毒、源代码自动扫描和业务产品安全咨询等。为了降低可能 泄露数据的价值，通过加密、匿名化、混淆数据，乃至定期删除等技术手段和流程 来达到目的。安全合规为了满足例如支付牌照等合规性要求，安全团队承担着安全合规的对外接口人 工作。应急响应建立安全报警系统，通过安全中心收集第三方发现的安全问题，组织各部门对 已经发现的安全问题进行修复、影响面评估、事后安全原因追查。运维工作发展过程早期的运维团队在人员较少的情况下，主要是进行数据中心建设、基础网络建 设、服务器采购和服务器安装交付工作。几乎很少涉及线上服务的变更、监控、管理等工作。这个时候的运维团队更多 的属于基础建设的角色，提供一个简单、可用的网络环境和系统环境即可。随着业务产品的逐渐成熟，对于服务质量方面就有了更高的要求。这个时候的 运维团队还会承担一些服务器监控的工作，同时会负责LVS、Nginx等与业务逻辑无 关的4/7层运维工作。这个时候服务变更更多的是逐台的手工操作，或者有一些简单 批量脚本的出现。监控的焦点更多的在服务器状态和资源使用情况上，对服务应用 状态的监控几乎很少，监控更多的使用各种开源系统如Nagios、Cacti等。由于业务规模和复杂度的持续增加，运维团队会逐渐划分为应用运维和系统运 维两大块。应用运维开始接手线上业务，逐步开展服务监控梳理、数据备份以及服 务变更的工作。随着对服务的深入，应用运维工程师有能力开始对服务进行一些简 单的优化。同时，为了应对每天大量的服务变更，我们也开始编写各类运维工具， 针对某些特定的服务能够很方便的批量变更。随着业务规模的增大，基础设施由于 容量规划不足或抵御风险能力较弱导致的故障也越来越多，迫使运维人员开始将更 多的精力投入到多数据中心容灾、预案管理的方向上。业务规模达到一定程度后，开源的监控系统在性能和功能方面，已经无法满足业务需求；大量的服务变更、复杂的服务关系，以前靠人工记录、工具变更的方式 不管在效率还是准确性方面也都无法满足业务需求；在安全方面也出现了各种大大 小小的事件，迫使我们投入更多的精力在安全防御上。逐渐的，运维团队形成之前 提到的5个大的工作分类，每个分类都需要有专精的人才。这个时候系统运维更专 注于基础设施的建设和运维，提供稳定、高效的网络环境，交付服务器等资源给应 用运维工程师。应用运维更专注于服务运行状态和效率。数据库运维属于应用运维 工作的细化，更专注于数据库领域的自动化、性能优化和安全防御。运维研发和运 维安全提供各类平台、工具，进一步提升运维工程师的工作效率，使业务服务运行 得更加稳定、高效和安全。我们将运维发展过程划分为4个阶段，如图1-2所示。运算效率规枝机制无规范机制系统自调度阶段故障后处理*不依藤人依赖人f故障前规遮建立规范人工约束图1-2运维发展过程手工管理阶段对于日常的业务管理业务流量不大，服务器数量相对较少，系统复杂度不高。操作，大家更多的是逐台登录服务器进行手工操作，属于各自为战，每个人都有自 己的操作方式，缺少必要的操作标准、流程机制，比如业务目录环境都是各式各样 的。工具批量操作阶段随着服务器规模、系统复杂度的增加，全人工的操作方式已经不能满足业务的 快速发展需要。因此，运维人员逐渐开始使用批量化的操作工具，针对不同操作类 型出现了不同的脚本程序。但各团队都有自己的工具，每次操作需求发生变化时都 需要调整工具。这主要是因为对于环境、操作的规范不够，导致可程序化处理能力 较弱。此时，虽然效率提升了一部分，但很快又遇到了瓶颈。操作的质量并没有太 多的提升，甚至可能因为批量执行而导致更大规模的问题出现。我们开始建立大量 的流程规范，比如复查机制，先上线一台服务器观察10分钟后再继续后面的操作， 一次升级完成后至少要观察20分钟等。这些主要还是靠人来监督和执行，但在实际 过程中执行往往不到位，反而降低了工作效率。平台管理阶段在这个阶段，对于运维效率和误操作率有了更高的要求，我们决定开始建设运 维平台，通过平台承载标准、流程，进而解放人力和提高质量。这个时候对服务的 变更动作进行了抽象，形成了操作方法、服务目录环境、服务运行方式等统一的标 准，如程序的启停接口必须包括启动、停止、重载等。通过平台来约束操作流程， 如上面提到的上线一台服务器观察10分钟。在平台中强制设定暂停检查点，在第一 台服务器操作完成后，需要运维人员填写相应的检查项，然后才可以继续执行后续 的部署动作。系统自调度阶段更大规模的服务数量、更复杂的服务关联关系、各个运维平台的林立，原有的 将批量操作转化成平台操作的方式已经不再适合，需要对服务变更进行更高一层的 抽象。将每一台服务器抽象成一个容器，由调度系统根据资源使用情况，将服务调 度、部署到合适的服务器上，自动化完成与周边各个运维系统的联动，比如监控系 统、日志系统、备份系统等。通过自调度系统，根据服务运行情况动态伸缩容量， 能够自动化处理常见的服务故障。运维人员的工作也会前置到产品设计阶段，协助 研发人员改造服务使其可以接入到自调度系统中。在整个运维的发展过程中，希望所有的工作都自动化起来，减少人的重复工作， 降低知识传递的成本，使我们的运维交付更高效、更安全，使产品运行更稳定。对 于故障的处理，也希望由事后处理变成提前发现，由人工处理变成系统自动容灾。