阿里大数据运维实践课件

阿里大数据运维实践阿里大数据运维实践1大纲临的变化挑战 需要关注的那些事Devops动化运维平台运维数据化&运营 化演进变化历程大纲临的变化挑战 22009.42010.32010.72012.12012.102013.72014?2009.43面临的变化挑战规模快速 膨胀跨机房跨 地域灵活性需求&成 本效率提升扩展性&可管理性数据安全面临的变化挑战规模快速 膨胀跨机房跨 地域灵活性需求&4需要关注的那些事需要关注的那些事5传统需要变革传统需要变革6组织人流程平台人、平台和流程需要有效的结合，才能发挥组织的力量。没有最好的，只有最合适的。DevOps误误区：区：无论是研发至上还是运维至上，都是极端的。随着IT成熟度的不同，会有不同的表现。强行用一种模式去套用，可能适得其反。代价可能是很高。因此，DevOps看似一个平台工具的革命，实际上它是整个组织的革命，需要人、平台和流程有效的配合，甚至文化的驱动。每个公司需要摸索一套合适的落地方案和计划。DevOps组织人流程平台人、平台和流程需要有效的结合，才能发挥 组织的7DevOpsDevOpsDev Ops为为运运维维“平反平反”善意但却容易误解的价值传递：“要革运维的命！”“以后都没有运维了！”如果运维的核心价值仅仅看作是发发布、布、变变更和更和部署部署等工作，那是对运维核心价值的狭义理解。DevOpsDevOpsDev Ops为运维“平反”8Dev高价值、核心价 值Dev日常工作Ops高价值、核心价 值Ops日常工作Dev高价值、核心价 值Ops高价值、核心价 值DevOps日常工作的高效运作日常工作的高效运作也 华丽转身成高价值的工作Dev和Ops的相互核心价值部分是不可替代的。EG：开发对网络、操作系统、服务器和安全等方向的理解会弱于运营运维对代码和软件架构的设计会弱于研发术业有专攻各自找准价值方向，持续构建核心竞争力相互融合，而非替代注：适度的竞争有利于发展，完全的计划经济并不一定高效，需要动态平衡；DevDevOpsOpsDevOpsDevOps日常工作的高9业务的架构不是一开始就完全 定稿的。而是随业务发展而不 断变复杂、稳定、成熟和高效。产品的架构和运维成熟度标 准 化定 制 化定制化和标准化的分界点，也是经常会变化的。定制化：对单个产品来说高效、灵活 标准化：对整体效率有提升、统一平台的构建需要充分考虑扩扩展性展性和兼容性兼容性自动化运维平台业务的架构不是一开始就完全 定稿的。而是随业务发展而不 断变10优势优势互互补补，打好组合拳，相互发挥出核心价值。分分层层构建构建配置数据数据仓库流程引擎App Store调度策略 流程封装业务逻辑 原子任务 任务引擎安全监控数据日志数据IaaS(DCOS 物理资源、虚拟资源)权限标准App业务1业务2业务3统一平台运维定制运维的同学们拥有一套高效的任务引擎、规则引擎和各类已经封装 好标准原子任务，其实运维的同学们可以快速的定制自己想要的调度 逻辑和门户。这样，DevOps的推动会更能高效高效和敏捷敏捷。优势互补，打好组合拳，相互发挥出核心价值。分层构建配置数据11公共管控产品层Angular.js业务管控业务管控业务管控业务管控业务管控业务管控业务管控业务管控业务管控业务管控服务层（API）公共管控api工作流&组合流实时配置管理定时任务用户权限&审批Api安全服务api&Scheduler&service服务api服务api&Scheduler&service服务api&Scheduler&service服务api&Scheduler&service服务api&Scheduler&service服务apisecurityapi服务api服务api执行层工具脚本-标准化外部依赖层CMDBACLagentchangefree数据库monitor帐号IDCAone2流程分层式样架构设计公共管控产品层Angular.js业务管控业务管控业务管12标准化一站式变更，单工作流流程细节掌控标准化一站式变更，单工作流流程细节掌控13应用基础环境配置管理rpm，文件，目录低部署成本，简单通用灰度发布，低消高效规则多样,文件模板多级绑定,灵活组合集中管理线上服务器定时调度任务Crond管理散乱执行结果丢失异常通知机制积累日常任务效果数据应用基础环境配置管理rpm，文件，目录低部署成本，简单通用集14自动化故障监测和处理系统Sda损坏坏盘预 测内存异 常自动报 修磁盘容 量满网络异 常服务downKernel panicLoad过 高宕机自动化故障监测和处理系统Sda损坏坏盘预 测内存异 常自动报15运维数据化&运营化02分析分析过过程程运运维处维处理理运运营营展展现现1.传统自动化运维实现了末端流程的沉淀但末端流程需要通过人或第三方系统连续，对人依赖大2.传统运维分析注重被动分析，固化分析，核心技术往往在第三方工具，展现能力弱关联度低3.对运维产品的运营能力低下，劳动密集型，低附加值1.加固末端产品能力2.强调系统分工，构建通用连接产品3.创建问题排查系统，分析决断执行过程运维数据化&运营化02分析过程运维处理运营展现1.传统自动化16数据化运营数据化运营171.通过设定的个性化集群水位迁移阈值计算各个集群的需迁移量及可接收量2.利用优化算法产生特定约束下的最优迁移策略（线性优化规划算法）3.量化执行该迁移策略后对集群资源水位及跨机房流量的影响数据化分析1.通过设定的个性化集群水 位迁移阈值计算各个集群的 需迁移18T-FlowAECT-cloneIDPSTDSCMDBChange LineStar AgentICSchangefreeAlimonitorACL面向连接的智能化运维体系T-FlowAECT-cloneIDPSTDSCMDBCha1901Before 2012022013工具整合，业务增长032014042015智能运维体系建设MaxComputeHbaseGalaxyHadoopOTSAnalyticDBJstormHistoreTTSLS自动化平台演进变化历程人工&脚本从实战中总结、提炼、构想、设计、建设出来的一套体系，提高效率，稳定性，准确率，提供深度价值的服务01Before 2012022013工具整合，业务增长0320运维-维护稳定安全可靠体验效率效益运营-经营运维-维护稳定安全可靠体验效率效益运营-经营21THANKSTHANKS22