消灭低效的幕后黑手——Qunar devops实践分享

捐助

消灭低效的幕后黑手——Qunar devops实践

3720 次浏览

2018-5-9

编辑推荐:

本文来自于百度,为大家分享了提高工程效率存在的问题、取得的成果、要做的事情等知识。

内容简介

devops是文化、流程与工具的有机结合。Qunar具有先天的devops文化，在研发过程中有很多自动化工具的支持。在传统的“我能做什么”的思维模式驱动下，每个工具就是一个信息孤岛，工程师使用这些工具存在着多种浪费。借助devops思想，拆掉原先“各自为政”的自动化工具的墙，建立以应用为中心的全生命周期管理平台。

1、存在的问题

去哪儿目前有1200+工程师、500个项目经理、6500个线上应用、每天有200个需求发布、3000+的beta环境更新、500个应用版本被部署到线上环境。下图是IC系统统计出的9月20日全天数据，beta部署3338次，线上更新图529次。

早在三年前，Qunar的发布系统就已经可以做到多个应用按照预定义的顺序一键发布了。但是，多个单点上高效的工具组成的过程，就一定是高效的吗？听听业务线的反馈，答案就不难得出。下图，是在没有做devops之前，线上应用扩容一台机器的过程。步骤繁琐，效率低下。

问题及根源分析

从上面这个简单的场景暴露出我们目前面临的问题：工具太多、工程师学习成本高；维度不同、同类数据在不同工具中不一致；权限管理混乱。

究其原因分为两点：

1. 各个工具由不同部分负责开发，而这个部分由于按照工作职责划分，所以出发点不同。这就是经常说的“部门壁垒”。

2. 不同工具的管理对象和目标不一致，导致信息集成困难，流程自动化就很难推进。

Qunar的devops方针：一个中心，两条主线

所谓“一个中心”，就是以提高工程效率为中心。实施devops不是目的，提高效率才是目的，所以我们内部都很少去讲devops这个词。而是不断去收集和发现业务线的需求，通过现场观察发现影响效率的环节，通过值班热线来收集高频问题，这些不仅是我们改进的原动力，也可以直接验证我们的改进效果。所谓“两条主线”，第一条是“应用线”。一个应用被注册后，从开发到上线到运维，是一个不断迭代的过程；第二条是“需求线”。持续交付关注的是一个需求从提出到交付的时间，这个时间越短说明一家企业越高效。而随着微服务架构的盛行，很多时候为了一个业务需求需要改动几个，甚至十几个应用。如何管理这个过程让其高效，也是非常重要。明确了“一个中心，两条主线”的方针后，我们解决问题的思路也非常清晰了。下图是落实这一方针后，我们工具平台的宏观表现。

2、取得的成果

一、应用的生命周期管理

解决思路

为了解决过去的部门壁垒和信息孤岛问题，我们在建立应用的全生命周期管理时，第一件事情就是为每个应用创建一个全局唯一的ID：APP_CODE。一个拥有了APP_CODE的应用，就好比一个被分配了身份证号的合法公民，享有很多合法权益。以前分散在各个阶段各个系统的信息，都将与这个APP_CODE建立联系，或作为应用的基本属性，或作为应用的孤岛资产（典型资产：机器，IP）。当然应用也要“遵纪守法”，这里特别强调做devops的一大原则——规范先行。所谓没有规矩不成方圆，而没有规范的devops就是无稽之谈。

关于应用的属性：

在对应用的属性数据进行梳理后，我们把它分为三类：基本属性、部署属性、服务属性（偏运行时）。其中，基本属性数据包括：服务类型，服务归属（业务线或BU），Owner，member等；服务属性包括：对机器资源的要求，对操作系统／基础软件的要求，服务启/停配置等；部署属性包括：源码地址，打包命令，部署时个性开关等。

关于应用的资源：

我们把应用所需的机器、域名等都做为资源来管理，尤其是机器资源，能够精确到具体应用，不仅给OPS运维提供更大的便利，一旦机器出现问题可以快速定位APP_CODE的owner，而且在做成本核算时也更清晰准确。为了方便对不同用途的机器进行管理，我们又引入了一层逻辑概念，即环境。一个应用可以被部署在多个环境，一个环境可以包含多台机器。典型场景就是一个应用，先被部署在一个dev环境（1台机器），然后部署在一个beta环境（2台机器），最后部署在prod环境（4台机器）。

为了实现信息的自动整合、工程师操作的流畅，我们对原有工具进行了系统点整合。是的，是整合，而不是推翻重建，我希望你们也是这样去做。

整合后的平台（我们后面都叫它Portal）的系统结构如图所示：

当我们把原有散落在各个工具平台中的信息，按照以上维度重新定义后，应用的生命周期脉络变得非常清晰。下面，我们再看看一个工程师的日常工作模式吧。如下图：

工程师进入Portal平台后，选择要处理的一个应用便进入该应用的详情页。这个详情的版面被分为4块：（1）左上角展示应用的基本属性；（2）左下角展示服务属性；（3）右上角是线上服务的变更事件：如定时任务执行情况；服务重启；服务发布等；（4）右下角是应用的环境/机器信息，以及运行在机器上的服务版本信息。原来需要在多个系统间切换才能收集到的信息，在这样一个详情页直观的展示出来，而且高频动作也都有相应的快捷按钮，非常方便。

与此同时，我们还做了一些过程可视化的改进。比如，原来的发布系统都是把过程日志输出给用户看，很多时候出现问题，工程师看不懂日志，也不好定位在哪个环节出了错，我们的服务热线每天疲于应付这些咨询问题。现在，我们把文字转换成了流程图的形式展现给工程师，当一次发布失败后，工程师可以一目了然的定位到出现的环节，然后再点击查看日志确定错误原因。工程师自助排查问题的能力明显提高。

如图：

二、项目的生命周期

解题思路

与应用生命周期保持一致。在项目管理中，有两个明显的问题：（1）项目进入开发阶段的过程对于项目经理来讲就是黑盒，想要了解细节沟通成本很高。（2）项目的实际数据靠手动填写，既不及时，也不准确。为此，我们通过规范源码的分支命名规范，将工程信息与项目信息建立了联系，通过工程中的不同事件映射到项目的不同阶段，从而自动填写项目管理中的“实际时间”自动。

先以一个实际的项目为例，看看整合了工程信息后的项目管理平台都有哪些变化吧。

除了原有项目管理平台维护的需求详情，计划安排，人员信息外，我们通过嵌入页面的方式，将所有与这个项目相关的工程信息进行了集中展示。在这个工程信息窗口中，除了应用名称，源码地址，分支名称外，还将CI结果进行了汇总展示。不仅可以清晰看到进度，还可以看到质量。

能够做到项目信息与工程信息的集成，关键一点就是通过分支命名规范建立关系，即：在分支名称中包含PMOID的，之后项目管理平台通过消费各种工程类消息，进行信息整合。稍后我也会再单独介绍为我们的devops平台立下汗马功劳的消息系统IC。用下图更能直观看到消息的生产者和消费者的关系：

说到这里，不得不介绍一下为我们的devops平台立下汗马功劳的消息系统IC。IC的诞生背景就是为了降低系统集成的复杂度，消息生产者只负责发送消息，任何对该消息感兴趣的一方都可以来消费它。比如PMO中展示的工程信息，就是由项目管理平台消费了这样几类消息：

1. branch-created：生产者——git

2. sonarResult：生产者——Sonar

3. codediff：生产者——codereview

4. beta-released: 生产者——发布系统

5. prod-released: 生产者——发布系统

IC中已经定义的消息类型已经有40多种，在我们内部工具集成中发挥着越来越重要的作用。

三、其他基础服务

测试环境管理平台Noah

当我们的服务拆分到一定程度后，马上会面临的一个新问题就是——要验证一个业务场景，需要部署N多个服务。如何提高这个过程的效率，在Qunar也有一个强大的平台支持，那就是Noah。在Noah平台，用户可以通过选择应用的各种组合快速构建满足业务测试的环境，或基于一个已有环境快速copy出一个全新环境。目前使用Noah的典型场景有两类：一类按照项目创建环境，满足开发工程师和测试工程师的验证需要；一类是满足接口自动化测试。关于Noah是值得专门写一篇文章来介绍的，这里只贴几个截图让大家有个直观了解吧。

在Noah平台新建环境，选择一种新建类型。如果是复杂的应用组合，我们建议用户以环境模版的形式保存下来，方便其他用户复用。