真强悍！从0为公司搭建后端技术！

如何您是一名创业公司的负责人&＃xff0c;如何从0搭建公司的后端技术栈。今天要说的后台是大后台的概念&＃xff0c;放在服务器上的东西都属于后台的东西&＃xff0c;比如使用的框架&＃xff0c;语言&＃xff0c;数据库&＃xff0c;服务&＃xff0c;操作系统等等。

整个后台技术栈我的理解包括 4 个层面的内容&＃xff1a;

• 语言&＃xff1a;用了哪些开发语言&＃xff0c;如&＃xff1a;C&＃43;&＃43;/Java/Go/PHP/Python/Ruby 等等&＃xff1b;

• 组件&＃xff1a;用了哪些组件&＃xff0c;如&＃xff1a;MQ 组件&＃xff0c;数据库组件等等&＃xff1b;

• 流程&＃xff1a;怎样的流程和规范&＃xff0c;如&＃xff1a;开发流程&＃xff0c;项目流程&＃xff0c;发布流程&＃xff0c;监控告警流程&＃xff0c;代码规范等等&＃xff1b;

• 系统&＃xff1a;系统化建设&＃xff0c;上面的流程需要有系统来保证&＃xff0c;如&＃xff1a;规范发布流程的发布系统&＃xff0c;代码管理系统等等&＃xff1b;

结合以上的的 4 个层面的内容&＃xff0c;整个后台技术栈的结构如图 2 所示&＃xff1a;

图2 后台技术栈结构

以上的这些内容都需要我们从零开始搭建&＃xff0c;在创业公司&＃xff0c;没有大公司那些完善的基础设施&＃xff0c;需要我们从开源界&＃xff0c;从云服务商甚至有些需要自己去组合&＃xff0c;去拼装&＃xff0c;去开发一个适合自己的组件或系统以达成我们的目标。咱们一个个系统和组件的做选型&＃xff0c;最终形成我们的后台技术栈。

各系统组件选型

1、项目管理/Bug管理/问题管理

项目管理软件是整个业务的需求&＃xff0c;问题&＃xff0c;流程等等的集中地&＃xff0c;大家的跨部门沟通协同大多依赖于项目管理工具。有一些 SaaS 的项目管理服务可以使用&＃xff0c;但是很多时间不满足需求&＃xff0c;此时我们可以选择一些开源的项目&＃xff0c;这些项目本身有一定的定制能力&＃xff0c;有丰富的插件可以使用&＃xff0c;一般的创业公司需求基本上都能得到满足&＃xff0c;常用的项目如下&＃xff1a;

• Redmine&＃xff1a;用 Ruby 开发的&＃xff0c;有较多的插件可以使用&＃xff0c;能自定义字段&＃xff0c;集成了项目管理&＃xff0c;Bug 问题跟踪&＃xff0c;WIKI 等功能&＃xff0c;不过好多插件 N 年没有更新了&＃xff1b;

• Phabricator&＃xff1a;用 PHP 开发的&＃xff0c;Facebook 之前的内部工具&＃xff0c;开发这工具的哥们离职后自己搞了一个公司专门做这个软件&＃xff0c;集成了代码托管&＃xff0c; Code Review&＃xff0c;任务管理&＃xff0c;文档管理&＃xff0c;问题跟踪等功能&＃xff0c;强烈推荐较敏捷的团队使用&＃xff1b;

• Jira&＃xff1a;用 Java 开发的&＃xff0c;有用户故事&＃xff0c;task 拆分&＃xff0c;燃尽图等等&＃xff0c;可以做项目管理&＃xff0c;也可以应用于跨部门沟通场景&＃xff0c;较强大&＃xff1b;

• 悟空 CRM &＃xff1a;这个不是项目管理&＃xff0c;这个是客户管理&＃xff0c;之所以在这里提出来&＃xff0c;是因为在 To B 的创业公司里面&＃xff0c;往往是以客户为核心来做事情的&＃xff0c;可以将项目管理和问题跟进的在悟空 CRM 上面来做&＃xff0c;他的开源版本已经基本实现了 CR<的核心 功能&＃xff0c;还带有一个任务管理功能&＃xff0c;用于问题跟进&＃xff0c;不过用这个的话&＃xff0c;还是需要另一个项目管理的软件协助&＃xff0c;顺便说一嘴&＃xff0c;这个系统的代码写得很难维护&＃xff0c;只能适用于客户规模小&＃xff08;1万以内&＃xff09;时。

2、DNS

DNS 是一个很通用的服务&＃xff0c;创业公司基本上选择一个合适的云厂商就行了&＃xff0c;国内主要是两家&＃xff1a;

• 阿里万网&＃xff1a;阿里 2014 年收购了万网&＃xff0c;整合了其域名服务&＃xff0c;最终形成了现在的阿里万网&＃xff0c;其中就包含 DNS 这块的服务&＃xff1b;

• 腾讯 DNSPod&＃xff1a;腾讯 2012 年以 4000 万收购 DNSPod 100% 股份&＃xff0c;主要提供域名解析和一些防护功能&＃xff1b;

• 如果您正在学习Spring Boot&＃xff0c;那么推荐一个连载多年还在继续更新的免费教程&＃xff1a;http://blog.didispace.com/spring-boot-learning-2x/

如果你的业务是在国内&＃xff0c;主要就是这两家&＃xff0c;选 一个就好&＃xff0c;像今日头条这样的企业用的也是 DNSPod 的服务&＃xff0c;除非一些特殊的原因才需要自建&＃xff0c;比如一些 CDN 厂商&＃xff0c;或者对区域有特殊限制的。要实惠一点用阿里最便宜的基础版就好了&＃xff0c;要成功率高一些&＃xff0c;还是用 DNSPod 的贵的那种。

在国外还是选择亚马逊吧&＃xff0c;阿里的 DNS 服务只有在日本和美国有节点&＃xff0c;东南亚最近才开始部点&＃xff0c; DNSPod 也只有美国和日本&＃xff0c;像一些出海的企业&＃xff0c;其选择的云服务基本都是亚马逊。

如果是线上产品&＃xff0c;DNS 强烈建议用付费版&＃xff0c;阿里的那几十块钱的付费版基本可以满足需求。如果还需要一些按省份或按区域调试的逻辑&＃xff0c;则需要加钱&＃xff0c;一年也就几百块&＃xff0c;省钱省力。

如果是国外&＃xff0c;优先选择亚马逊&＃xff0c;如果需要国内外互通并且有自己的 APP 的话&＃xff0c;建议还是自己实现一些容灾逻辑或者智能调度&＃xff0c;因为没有一个现成的 DNS 服务能同时较好的满足国内外场景&＃xff0c;或者用多个域名&＃xff0c;不同的域名走不同的 DNS 。

3、LB&＃xff08;负载均衡&＃xff09;

LB&＃xff08;负载均衡&＃xff09;是一个通用服务&＃xff0c;一般云厂商的 LB 服务基本都会如下功能&＃xff1a;

• 支持四层协议请求&＃xff08;包括 TCP、UDP 协议&＃xff09;&＃xff1b;

• 支持七层协议请求&＃xff08;包括 HTTP、HTTPS 协议&＃xff09;&＃xff1b;

• 集中化的证书管理系统支持 HTTPS 协议&＃xff1b;

• 健康检查&＃xff1b;

如果你线上的服务机器都是用的云服务&＃xff0c;并且是在同一个云服务商的话&＃xff0c;可以直接使用云服务商提供的 LB 服务&＃xff0c;如阿里云的 SLB&＃xff0c;腾讯云的 CLB&＃xff0c;亚马逊的 ELB 等等。如果是自建机房基本都是 LVS &＃43; Nginx。

4、CDN

CDN 现在已经是一个很红很红的市场&＃xff0c;基本上只能挣一些辛苦钱&＃xff0c;都是贴着成本在卖。国内以网宿为龙头&＃xff0c;他们家占据整个国内市场份额的 40% 以上&＃xff0c;后面就是腾讯&＃xff0c;阿里。网宿有很大一部分是因为直播的兴起而崛起。

国外&＃xff0c;Amazon 和 Akamai 合起来占比大概在 50%&＃xff0c;曾经的国际市场老大 Akamai 拥有全球超一半的份额&＃xff0c;在 Amazon CDN入局后&＃xff0c;份额跌去了将近 20%&＃xff0c;众多中小企业都转向后者&＃xff0c;Akamai 也是无能为力。

国内出海的 CDN 厂商&＃xff0c;更多的是为国内的出海企业服务&＃xff0c;三家大一点的 CDN 服务商里面也就网宿的节点多一些&＃xff0c;但是也多不了多少。阿里和腾讯还处于前期阶段&＃xff0c;仅少部分国家有节点。

就创业公司来说&＃xff0c;CDN 用腾讯云或阿里云即可&＃xff0c;其相关系统较完善&＃xff0c;能轻松接入&＃xff0c;网宿在系统支持层面相对较弱一些&＃xff0c;而且还贵一些。并且&＃xff0c;当流量上来后&＃xff0c;CDN 不能只用一家&＃xff0c;需要用多家&＃xff0c;不同的 CDN 在全国的节点覆盖不一样&＃xff0c;而且针对不同的客户云厂商内部有些区分客户集群&＃xff0c;并不是全节点覆盖&＃xff08;但有些云厂商说自己是全网节点&＃xff09;&＃xff0c;除了节点覆盖的问题&＃xff0c;多 CDN 也在一定程度上起到容灾的作用。

5、RPC 框架

维基百科对 RPC 的定义是&＃xff1a;远程过程调用&＃xff08;Remote Procedure Call&＃xff0c;RPC&＃xff09;是一个计算机通信协议。该协议允许运行于一台计算机的程序调用另一台计算机的子程序&＃xff0c;而程序员无需额外地为这个交互作用编程。

通俗来讲&＃xff0c;一个完整的 RPC 调用过程&＃xff0c;就是 Server 端实现了一个函数&＃xff0c;客户端使用 RPC 框架提供的接口&＃xff0c;调用这个函数的实现&＃xff0c;并获取返回值的过程。

业界 RPC 框架大致分为两大流派&＃xff0c;一种侧重跨语言调用&＃xff0c;另一种是偏重服务治理。

跨语言调用型的 RPC 框架有 Thrift、gRPC、Hessian、Hprose 等。这类 RPC 框架侧重于服务的跨语言调用&＃xff0c;能够支持大部分的语言进行语言无关的调用&＃xff0c;非常适合多语言调用场景。但这类框架没有服务发现相关机制&＃xff0c;实际使用时需要代理层进行请求转发和负载均衡策略控制。

其中&＃xff0c;gRPC 是 Google 开发的高性能、通用的开源 RPC 框架&＃xff0c;其由 Google 主要面向移动应用开发并基于 HTTP/2 协议标准而设计&＃xff0c;基于 ProtoBuf&＃xff08;Protocol Buffers&＃xff09;序列化协议开发&＃xff0c;且支持众多开发语言。本身它不是分布式的&＃xff0c;所以要实现框架的功能需要进一步的开发。

Hprose&＃xff08;High Performance Remote Object Service Engine&＃xff09;是一个 MIT 开源许可的新型轻量级跨语言跨平台的面向对象的高性能远程动态通讯中间件。

服务治理型的 RPC 框架的特点是功能丰富&＃xff0c;提供高性能的远程调用、服务发现及服务治理能力&＃xff0c;适用于大型服务的服务解耦及服务治理&＃xff0c;对于特定语言(Java)的项目可以实现透明化接入。缺点是语言耦合度较高&＃xff0c;跨语言支持难度较大。国内常见的冶理型 RPC 框架如下&＃xff1a;

• Dubbo&＃xff1a;Dubbo 是阿里巴巴公司开源的一个 Java 高性能优秀的服务框架&＃xff0c;使得应用可通过高性能的 RPC 实现服务的输出和输入功能&＃xff0c;可以和 Spring 框架无缝集成。当年在淘宝内部&＃xff0c;Dubbo 由于跟淘宝另一个类似的框架 HSF 有竞争关系&＃xff0c;导致 Dubbo 团队解散&＃xff0c;最近又活过来了&＃xff0c;有专职同学投入。

• DubboX&＃xff1a;DubboX 是由当当在基于 Dubbo 框架扩展的一个 RPC 框架&＃xff0c;支持 REST 风格的远程调用、Kryo/FST 序列化&＃xff0c;增加了一些新的feature。Motan&＃xff1a;Motan 是新浪微博开源的一个 Java 框架。它诞生的比较晚&＃xff0c;起于 2013 年&＃xff0c;2016 年 5 月开源。Motan 在微博平台中已经广泛应用&＃xff0c;每天为数百个服务完成近千亿次的调用。

• rpcx&＃xff1a;rpcx 是一个类似阿里巴巴 Dubbo 和微博 Motan 的分布式的 RPC 服务框架&＃xff0c;基于 Golang net/rpc 实现。但是 rpcx 基本只有一个人在维护&＃xff0c;没有完善的社区&＃xff0c;使用前要慎重&＃xff0c;之前做 Golang 的 RPC 选型时也有考虑这个&＃xff0c;最终还是放弃了&＃xff0c;选择了 gRPC&＃xff0c;如果想自己自研一个 RPC 框架&＃xff0c;可以参考学习一下。

6、名字发现/服务发现

名字发现和服务发现分为两种模式&＃xff0c;一个是客户端发现模式&＃xff0c;一种是服务端发现模式。

框架中常用的服务发现是客户端发现模式。

所谓服务端发现模式是指客户端通过一个负载均衡器向服务发送请求&＃xff0c;负载均衡器查询服务注册表并把请求路由到一台可用的服务实例上。现在常用的负载均衡器都是此类模式&＃xff0c;常用于微服务中。

所有的名字发现和服务发现都要依赖于一个可用性非常高的服务注册表&＃xff0c;业界常用的服务注册表有如下三个&＃xff1a;

• etcd&＃xff0c;一个高可用、分布式、一致性、key-value 方式的存储&＃xff0c;被用在分享配置和服务发现中。两个著名的项目使用了它&＃xff1a;Kubernetes 和 Cloud Foundry。

• Consul&＃xff0c;一个发现和配置服务的工具&＃xff0c;为客户端注册和发现服务提供了API&＃xff0c;Consul还可以通过执行健康检查决定服务的可用性。

• Apache ZooKeeper&＃xff0c;是一个广泛使用、高性能的针对分布式应用的协调服务。Apache ZooKeeper 本来是 Hadoop 的子工程&＃xff0c;现在已经是顶级工程了。

除此之外也可以自己实现服务实现&＃xff0c;或者用 Redis 也行&＃xff0c;只是需要自己实现高可用性。

7、关系数据库

关系数据库分为两种&＃xff0c;一种是传统关系数据&＃xff0c;如 Oracle&＃xff0c;MySQL&＃xff0c;Maria&＃xff0c;DB2&＃xff0c;PostgreSQL 等等&＃xff0c;另一种是 NewSQL&＃xff0c;即至少要满足以下五点的新型关系数据库&＃xff1a;

1. 完整地支持 SQL&＃xff0c;支持 JOIN / GROUP BY /子查询等复杂 SQL 查询。

2. 支持传统数据标配的 ACID 事务&＃xff0c;支持强隔离级别。

3. 具有弹性伸缩的能力&＃xff0c;扩容缩容对于业务层完全透明。

4. 真正的高可用&＃xff0c;异地多活、故障恢复的过程不需要人为的接入&＃xff0c;系统能够自动地容灾和进行强一致的数据恢复。

5. 具备一定的大数据分析能力。

6. 如果您正在学习Spring Boot&＃xff0c;那么推荐一个连载多年还在继续更新的免费教程&＃xff1a;http://blog.didispace.com/spring-boot-learning-2x/

传统关系数据库用得最多的是 MySQL&＃xff0c;成熟&＃xff0c;稳定&＃xff0c;一些基本的需求都能满足&＃xff0c;在一定数据量级之前基本单机传统数据库都可以搞定&＃xff0c;而且现在较多的开源系统都是基于 MySQL&＃xff0c;开箱即用&＃xff0c;再加上主从同步和前端缓存&＃xff0c;百万 pv 的应用都可以搞定了。不过 CentOS 7 已经放弃了 MySQL&＃xff0c;而改使用 MariaDB。MariaDB 数据库管理系统是 MySQ L的一个分支&＃xff0c;主要由开源社区在维护&＃xff0c;采用 GPL 授权许可。开发这个分支的原因之一是&＃xff1a;甲骨文公司收购了 MySQL 后&＃xff0c;有将 MySQL 闭源的潜在风险&＃xff0c;因此社区采用分支的方式来避开这个风险。

在 Google 发布了 F1: A Distributed SQL Database That Scales 和 Spanner: Google’s Globally-Distributed Databasa 之后&＃xff0c;业界开始流行起 NewSQL。于是有了 CockroachDB&＃xff0c;于是有了奇叔公司的 TiDB。国内已经有比较多的公司使用 TiDB&＃xff0c;之前在创业公司时在大数据分析时已经开始应用 TiDB&＃xff0c;当时应用的主要原因是 MySQL 要使用分库分表&＃xff0c;逻辑开发比较复杂&＃xff0c;扩展性不够。

8、NoSQL

NoSQL 顾名思义就是 Not-Only SQL&＃xff0c;也有人说是 No – SQL&＃xff0c;个人偏向于 Not-Only SQL&＃xff0c;它并不是用来替代关系库&＃xff0c;而是作为关系型数据库的补充而存在。

常见 NoSQL 有4个类型&＃xff1a;

• 键值&＃xff0c;适用于内容缓存&＃xff0c;适合混合工作负载并发高扩展要求大的数据集&＃xff0c;其优点是简单&＃xff0c;查询速度快&＃xff0c;缺点是缺少结构化数据&＃xff0c;常见的有 Redis&＃xff0c;Memcache&＃xff0c;BerkeleyDB 和 Voldemort 等等&＃xff1b;

• 列式&＃xff0c;以列簇式存储&＃xff0c;将同一列数据存在一起&＃xff0c;常见于分布式的文件系统&＃xff0c;其中以 Hbase&＃xff0c;Cassandra 为代表。Cassandra 多用于写多读少的场景&＃xff0c;国内用得比较多的有 360&＃xff0c;大概 1500 台机器的集群&＃xff0c;国外大规模使用的公司比较多&＃xff0c;如 eBay&＃xff0c;Instagram&＃xff0c;Apple 和沃尔玛等等&＃xff1b;

• 文档&＃xff0c;数据存储方案非常适用承载大量不相关且结构差别很大的复杂信息。性能介于 kv 和关系数据库之间&＃xff0c;它的灵感来于 lotus notes&＃xff0c;常见的有 MongoDB&＃xff0c;CouchDB 等等&＃xff1b;

• 图形&＃xff0c;图形数据库擅长处理任何涉及关系的状况。社交网络&＃xff0c;推荐系统等。专注于构建关系图谱&＃xff0c;需要对整个图做计算才能得出结果&＃xff0c;不容易做分布式的集群方案&＃xff0c;常见的有 Neo4J&＃xff0c;InfoGrid 等。

除了以上4种类型&＃xff0c;还有一些特种的数据库&＃xff0c;如对象数据库&＃xff0c;XML 数据库&＃xff0c;这些都有针对性对某些存储类型做了优化的数据库。

在实际应用场景中&＃xff0c;何时使用关系数据库&＃xff0c;何时使用 NoSQL&＃xff0c;使用哪种类型的数据库&＃xff0c;这是我们在做架构选型时一个非常重要的考量&＃xff0c;甚至会影响整个架构的方案。

9、消息中间件

消息中间件在后台系统中是必不可少的一个组件&＃xff0c;一般我们会在以下场景中使用消息中间件&＃xff1a;

• 异步处理&＃xff1a;异步处理是使用消息中间件的一个主要原因&＃xff0c;在工作中最常见的异步场景有用户注册成功后需要发送注册成功邮件、缓存过期时先返回老的数据&＃xff0c;然后异步更新缓存、异步写日志等等&＃xff1b;通过异步处理&＃xff0c;可以减少主流程的等待响应时间&＃xff0c;让非主流程或者非重要业务通过消息中间件做集中的异步处理。

• 系统解耦&＃xff1a;比如在电商系统中&＃xff0c;当用户成功支付完成订单后&＃xff0c;需要将支付结果给通知ERP系统、发票系统、WMS、推荐系统、搜索系统、风控系统等进行业务处理&＃xff1b;这些业务处理不需要实时处理、不需要强一致&＃xff0c;只需要最终一致性即可&＃xff0c;因此可以通过消息中间件进行系统解耦。通过这种系统解耦还可以应对未来不明确的系统需求。

• 削峰填谷&＃xff1a;当系统遇到大流量时&＃xff0c;监控图上会看到一个一个的山峰样的流量图&＃xff0c;通过使用消息中间件将大流量的请求放入队列&＃xff0c;通过消费者程序将队列中的处理请求慢慢消化&＃xff0c;达到消峰填谷的效果。最典型的场景是秒杀系统&＃xff0c;在电商的秒杀系统中下单服务往往会是系统的瓶颈&＃xff0c;因为下单需要对库存等做数据库操作&＃xff0c;需要保证强一致性&＃xff0c;此时使用消息中间件进行下单排队和流控&＃xff0c;让下单服务慢慢把队列中的单处理完&＃xff0c;保护下单服务&＃xff0c;以达到削峰填谷的作用。

业界消息中间件是一个非常通用的东西&＃xff0c;大家在做选型时有使用开源的&＃xff0c;也有自己造轮子的&＃xff0c;甚至有直接用 MySQL 或 Redis 做队列的&＃xff0c;关键看是否满足你的需求&＃xff0c;如果是使用开源的项目&＃xff0c;以下的表格在选型时可以参考&＃xff1a;

图 3

以上图的纬度为&＃xff1a;名字、成熟度、所属社区/公司、文档、授权方式、开发语言、支持的协议、客户端支持的语言、性能、持久化、事务、集群、负载均衡、管理界面、部署方式、评价。 另外&＃xff0c;搜索公众号Java后端栈后台回复“面试”&＃xff0c;获取一份惊喜礼包。

10、代码管理

代码是互联网创业公司的命脉之一&＃xff0c;代码管理很重要&＃xff0c;常见的考量点包括两块&＃xff1a;

• 安全和权限管理&＃xff0c;将代码放到内网并且对于关系公司命脉的核心代码做严格的代码控制和机器的物理隔离&＃xff1b;

• 代码管理工具&＃xff0c;Git 作为代码管理的不二之选&＃xff0c;你值得拥有。GitLab 是当今最火的开源 Git 托管服务端&＃xff0c;没有之一&＃xff0c;虽然有企业版&＃xff0c;但是其社区版基本能满足我们大部分需求&＃xff0c;结合 Gerrit 做 Code review&＃xff0c;基本就完美了。当然 GitLab 也有代码对比&＃xff0c;但没 Gerrit 直观。Gerrit 比 GitLab 提供了更好的代码检查界面与主线管理体验&＃xff0c;更适合在对代码质量有高要求的文化下使用。

11、持续集成

持续集成简&＃xff0c;称 CI&＃xff08;continuous integration&＃xff09;&＃xff0c;是一种软件开发实践&＃xff0c;即团队开发成员经常集成他们的工作&＃xff0c;每天可能会发生多次集成。每次集成都通过自动化的构建&＃xff08;包括编译&＃xff0c;发布&＃xff0c;自动化测试&＃xff09;来验证&＃xff0c;从而尽早地发现集成错误。持续集成为研发流程提供了代码分支管理/比对、编译、检查、发布物输出等基础工作&＃xff0c;为测试的覆盖率版本编译、生成等提供统一支持。

业界免费的持续集成工具中系统我们有如下一些选择&＃xff1a;

• Jenkins&＃xff1a;Java 写的有强大的插件机制&＃xff0c;MIT 协议开源 &＃xff08;免费&＃xff0c;定制化程度高&＃xff0c;它可以在多台机器上进行分布式地构建和负载测试&＃xff09;。Jenkins 可以算是无所不能&＃xff0c;基本没有 Jenkins 做不了的&＃xff0c;无论从小型团队到大型团队 Jenkins 都可以搞定。不过如果要大规模使用&＃xff0c;还是需要有人力来学习和维护。

• TeamCity&＃xff1a;TeamCity 与 Jenkins 相比使用更加友好&＃xff0c;也是一个高度可定制化的平台。但是用的人多了&＃xff0c;TeamCity就要收费了。

• Strider&＃xff1a;Strider 是一个开源的持续集成和部署平台&＃xff0c;使用 Node.js 实现&＃xff0c;存储使用的是 MongoDB&＃xff0c;BSD 许可证&＃xff0c;概念上类似 Travis 和Jenkins。

• GitLab CI&＃xff1a;从GitLab 8.0开始&＃xff0c;GitLab CI 就已经集成在 GitLab&＃xff0c;我们只要在项目中添加一个 .gitlab-ci.yml 文件&＃xff0c;然后添加一个 Runner&＃xff0c;即可进行持续集成。并且 GitLab 与 Docker 有着非常好的相互协作的能力。免费版与付费版本不同可以参见这里&＃xff1a;https://about.gitlab.com/products/feature-comparison/。

• Travis&＃xff1a;Travis 和 GitHub 强关联&＃xff1b;闭源代码使用 SaaS 还需考虑安全问题&＃xff1b;不可定制&＃xff1b;开源项目免费&＃xff0c;其它收费。

• Go&＃xff1a;Go 是 ThoughtWorks 公司最新的 Cruise Control 的化身。除了 ThoughtWorks 提供的商业支持&＃xff0c;Go 是免费的。它适用于 Windows&＃xff0c;Mac 和各种 Linux 发行版。

12、日志系统

日志系统一般包括打日志&＃xff0c;采集&＃xff0c;中转&＃xff0c;收集&＃xff0c;存储&＃xff0c;分析&＃xff0c;呈现&＃xff0c;搜索还有分发等。一些特殊的如染色&＃xff0c;全链条跟踪或者监控都可能需要依赖于日志系统实现。日志系统的建设不仅仅是工具的建设&＃xff0c;还有规范和组件的建设&＃xff0c;最好一些基本的日志在框架和组件层面加就行了&＃xff0c;比如全链接跟踪之类的。

对于常规日志系统ELK能满足大部分的需求&＃xff0c;ELK 包括如下组件&＃xff1a;

• ElasticSearch 是个开源分布式搜索引擎&＃xff0c;它的特点有&＃xff1a;分布式&＃xff0c;零配置&＃xff0c;自动发现&＃xff0c;索引自动分片&＃xff0c;索引副本机制&＃xff0c;RESTful 风格接口&＃xff0c;多数据源&＃xff0c;自动搜索负载等。

• Logstash 是一个完全开源的工具&＃xff0c;它可以对你的日志进行收集、分析&＃xff0c;并将其存储供以后使用。

• Kibana 是一个开源和免费的工具&＃xff0c;它可以为 Logstash 和 ElasticSearch 提供的日志分析友好的 Web 界面&＃xff0c;可以帮助汇总、分析和搜索重要数据日志。

• Filebeat 已经完全替代了 Logstash-Forwarder 成为新一代的日志采集器&＃xff0c;同时鉴于它轻量、安全等特点&＃xff0c;越来越多人开始使用它。扩展&＃xff1a;接私活儿

因为免费的 ELK 没有任何安全机制&＃xff0c;所以这里使用了 Nginx 作反向代理&＃xff0c;避免用户直接访问 Kibana 服务器。加上配置 Nginx 实现简单的用户认证&＃xff0c;一定程度上提高安全性。另外&＃xff0c;Nginx 本身具有负载均衡的作用&＃xff0c;能够提高系统访问性能。ELK 架构如图4所示&＃xff1a;

图 4&＃xff0c;ELK 流程图

对于有实时计算的需求&＃xff0c;可以使用 Flume &＃43; Kafka &＃43; Storm &＃43; MySQL 方案&＃xff0c;一 般架构如图 5 所示&＃xff1a;

图 5&＃xff0c;实时分析系统架构图

其中&＃xff1a;

• Flume 是一个分布式、可靠、和高可用的海量日志采集、聚合和传输的日志收集系统&＃xff0c;支持在日志系统中定制各类数据发送方&＃xff0c;用于收集数据&＃xff1b;同时&＃xff0c;Flume 提供对数据进行简单处理&＃xff0c;并写到各种数据接受方&＃xff08;可定制&＃xff09;的能力。

• Kafka 是由 Apache 软件基金会开发的一个开源流处理平台&＃xff0c;由 Scala 和 Java 编写。其本质上是一个“按照分布式事务日志架构的大规模发布/订阅消息队列”&＃xff0c;它以可水平扩展和高吞吐率而被广泛使用。

Kafka 追求的是高吞吐量、高负载&＃xff0c;Flume 追求的是数据的多样性&＃xff0c;二者结合起来简直完美。

13、监控系统

监控系统只包含与后台相关的&＃xff0c;这里主要是两块&＃xff0c;一个是操作系统层的监控&＃xff0c;比如机器负载&＃xff0c;IO&＃xff0c;网络流量&＃xff0c;CPU&＃xff0c;内存等操作系统指标的监控。另一个是服务质量和业务质量的监控&＃xff0c;比如服务的可用性&＃xff0c;成功率&＃xff0c;失败率&＃xff0c;容量&＃xff0c;QPS 等等。常见业务的监控系统先有操作系统层面的监控&＃xff08;这部分较成熟&＃xff09;&＃xff0c;然后扩展出其它监控&＃xff0c;如 Zabbix&＃xff0c;小米的 Open-Falcon&＃xff0c;也有一出来就是两者都支持的&＃xff0c;如 Prometheus。如果对业务监控要求比较高一些&＃xff0c;在创业选型中建议可以优先考虑 Prometheus。这里有一个有趣的分布&＃xff0c;如图6所示。

图 6&＃xff0c;监控系统分布

亚洲区域使用 Zabbix 较多&＃xff0c;而美洲和欧洲&＃xff0c;以及澳大利亚使用 Prometheus 居多&＃xff0c;换句话说&＃xff0c;英文国家地区&＃xff08;发达国家&＃xff1f;&＃xff09;使用 Prometheus 较多。

Prometheus 是由 SoundCloud 开发的开源监控报警系统和时序列数据库&＃xff08;TSDB&＃xff09;。Prometheus 使用 Go 语言开发&＃xff0c;是 Google BorgMon 监控系统的开源版本。相对于其它监控系统使用的 push 数据的方式&＃xff0c;Prometheus 使用的是 pull 的方式&＃xff0c;其架构如图 7 所示&＃xff1a;

图 7&＃xff0c;Prometheus 架构图

如上图所示&＃xff0c;Prometheus 包含的主要组件如下&＃xff1a;

• Prometheus Server 主要负责数据采集和存储&＃xff0c;提供 PromQL 查询语言的支持。Server 通过配置文件、文本文件、ZooKeeper、Consul、DNS SRV Lookup 等方式指定抓取目标。根据这些目标会&＃xff0c;Server 定时去抓取 metrics 数据&＃xff0c;每个抓取目标需要暴露一个 http 服务的接口给它定时抓取。

• 客户端 SDK&＃xff1a;官方提供的客户端类库有 Go、Java、Scala、Python、Ruby&＃xff0c;其他还有很多第三方开发的类库&＃xff0c;支持 Nodejs、PHP、Erlang 等。

• Push Gateway 支持临时性 Job 主动推送指标的中间网关。

• Exporter Exporter 是 Prometheus 的一类数据采集组件的总称。它负责从目标处搜集数据&＃xff0c;并将其转化为 Prometheus 支持的格式。与传统的数据采集组件不同的是&＃xff0c;它并不向中央服务器发送数据&＃xff0c;而是等待中央服务器主动前来抓取。Prometheus 提供多种类型的 Exporter 用于采集各种不同服务的运行状态。目前支持的有数据库、硬件、消息中间件、存储系统、HTTP 服务器、JMX 等。

• Alertmanager&＃xff1a;是一个单独的服务&＃xff0c;可以支持 Prometheus 的查询语句&＃xff0c;提供十分灵活的报警方式。

• Prometheus HTTP API 的查询方式&＃xff0c;自定义所需要的输出。

•  另外&＃xff0c;搜索公众号后端架构师后台回复“架构整洁”&＃xff0c;获取一份惊喜礼包。
  

• Grafana 是一套开源的分析监视平台&＃xff0c;支持 Graphite&＃xff0c;InfluxDB&＃xff0c;OpenTSDB&＃xff0c;Prometheus&＃xff0c;Elasticsearch&＃xff0c;CloudWatch 等数据源&＃xff0c;其 UI 非常漂亮且高度定制化。

创业公司选择 Prometheus &＃43; Grafana 的方案&＃xff0c;再加上统一的服务框架&＃xff08;如 gRPC&＃xff09;&＃xff0c;可以满足大部分中小团队的监控需求。

14、配置系统

随着程序功能的日益复杂&＃xff0c;程序的配置日益增多&＃xff1a;各种功能的开关、降级开关&＃xff0c;灰度开关&＃xff0c;参数的配置、服务器的地址、数据库配置等等&＃xff0c;除此之外&＃xff0c;对后台程序配置的要求也越来越高&＃xff1a;配置修改后实时生效&＃xff0c;灰度发布&＃xff0c;分环境、分用户&＃xff0c;分集群管理配置&＃xff0c;完善的权限、审核机制等等&＃xff0c;在这样的大环境下&＃xff0c;传统的通过配置文件、数据库等方式已经越来越无法满足开发人员对配置管理的需求&＃xff0c;业界有如下两种方案&＃xff1a;

• 基于 zk 和 etcd&＃xff0c;支持界面和 api &＃xff0c;用数据库来保存版本历史&＃xff0c;预案&＃xff0c;走审核流程&＃xff0c;最后下发到 zk 或 etcd 这种有推送能力的存储里&＃xff08;服务注册本身也是用 zk 或 etcd&＃xff0c;选型就一块了&＃xff09;。客户端都直接和 zk 或 etcd 打交道。至于灰度发布&＃xff0c;各家不同&＃xff0c;有一种实现是同时发布一个需要灰度的 IP 列表&＃xff0c;客户端监听到配置节点变化时&＃xff0c;对比一下自己是否属于该列表。PHP 这种无状态的语言和其他 zk/etcd 不支持的语言&＃xff0c;只好自己在客户端的机器上起一个 Agent 来监听变化&＃xff0c;再写到配置文件或共享内存&＃xff0c;如 360 的 Qconf。

• 基于运维自动化的配置文件的推送&＃xff0c;审核流程&＃xff0c;配置数据管理和方案一类似&＃xff0c;下发时生成配置文件&＃xff0c;基于运维自动化工具如 Puppet&＃xff0c;Ansible 推送到每个客户端&＃xff0c;而应用则定时重新读取这个外部的配置文件&＃xff0c;灰度发布在下发配置时指定IP列表。

创业公司前期不需要这种复杂&＃xff0c;直接上 zk&＃xff0c;弄一个界面管理 zk 的内容&＃xff0c;记录一下所有人的操作日志&＃xff0c;程序直连 zk&＃xff0c;或者或者用 Qconf 等基于 zk 优化后的方案。

15、发布系统/部署系统

从软件生产的层面看&＃xff0c;代码到最终服务的典型流程如图 8 所示&＃xff1a;

图 8&＃xff0c;流程图

从上图中可以看出&＃xff0c;从开发人员写下代码到服务最终用户是一个漫长过程&＃xff0c;整体可以分成三个阶段&＃xff1a;

• 从代码&＃xff08;Code&＃xff09;到成品库&＃xff08;Artifact&＃xff09;这个阶段主要对开发人员的代码做持续构建并把构建产生的制品集中管理&＃xff0c;是为部署系统准备输入内容的阶段。

• 从制品到可运行服务 这个阶段主要完成制品部署到指定环境&＃xff0c;是部署系统的最基本工作内容。

• 从开发环境到最终生产环境 这个阶段主要完成一次变更在不同环境的迁移&＃xff0c;是部署系统上线最终服务的核心能力。

发布系统集成了制品管理&＃xff0c;发布流程&＃xff0c;权限控制&＃xff0c;线上环境版本变更&＃xff0c;灰度发布&＃xff0c;线上服务回滚等几方面的内容&＃xff0c;是开发人员工作结晶最终呈现的重要通道。开源的项目中没有完全满足的项目&＃xff0c;如果只是 Web 类项目&＃xff0c;Walle、Piplin 都是可用的&＃xff0c;但是功能不太满足&＃xff0c;创业初期可以集成 Jenkins &＃43; Gitlab &＃43; Walle&＃xff08;可以考虑两天时间完善一下&＃xff09;&＃xff0c;以上方案基本包括制品管理&＃xff0c;发布流程&＃xff0c;权限控制&＃xff0c;线上环境版本变更&＃xff0c;灰度发布&＃xff08;需要自己实现&＃xff09;&＃xff0c;线上服务回滚等功能。

16、跳板机

跳板机面对的是需求是要有一种能满足角色管理与授权审批、信息资源访问控制、操作记录和审计、系统变更和维护控制要求&＃xff0c;并生成一些统计报表配合管理规范来不断提升IT内控的合规性&＃xff0c;能对运维人员操作行为的进行控制和审计&＃xff0c;对误操作、违规操作导致的操作事故&＃xff0c;快速定位原因和责任人。其功能模块一般包括&＃xff1a;帐户管理、认证管理、授权管理、审计管理等等。

开源项目中&＃xff0c;Jumpserver 能够实现跳板机常见需求&＃xff0c;如授权、用户管理、服务器基本信息记录等&＃xff0c;同时又可批量执行脚本等功能&＃xff1b;其中录像回放、命令搜索、实时监控等特点&＃xff0c;又能帮助运维人员回溯操作历史&＃xff0c;方便查找操作痕迹&＃xff0c;便于管理其他人员对服务器的操作控制。

17、机器管理

机器管理的工具选择的考量可以包含以下三个方面&＃xff1a;

1. 是否简单&＃xff0c;是否需要每台机器部署 Agent&＃xff08;客户端&＃xff09;

2. 语言的选择&＃xff08;Puppet/Chef vs Ansible/SaltStack &＃xff09;开源技术&＃xff0c;不看官网不足以熟练&＃xff0c;不懂源码不足以精通&＃xff1b;Puppet、Chef 基于 Ruby 开发&＃xff0c;Ansible、SaltStack 基于 Python 开发的

3. 速度的选择&＃xff08;Ansible vs SaltStack&＃xff09;Ansible 基于 SSH 协议传输数据&＃xff0c;SaltStack 使用消息队列 zeroMQ 传输数据&＃xff1b;大规模并发的能力对于几十台-200 台规模的兄弟来讲&＃xff0c;Ansible的性能也可接受&＃xff0c;如果一次操作上千台&＃xff0c;用 salt 好一些。

如图9所示&＃xff1a;

图 9&＃xff0c;机器管理软件对比

一般创业公司选择 Ansible 能解决大部问题&＃xff0c;其简单&＃xff0c;不需要安装额外的客户端&＃xff0c;可以从命令行来运行&＃xff0c;不需要使用配置文件。至于比较复杂的任务&＃xff0c;Ansible 配置通过名为 Playbook 的配置文件中的 YAML 语法来加以处理。Playbook 还可以使用模板来扩展其功能。

创业公司的选择

1、选择合适的语言

• 选择团队熟悉的/能掌控的&＃xff0c;创业公司人少事多&＃xff0c;无太多冗余让研发团队熟悉新的语言&＃xff0c;能快速上手&＃xff0c;能快速出活&＃xff0c;出了问题能快速解决的问题的语言才是好的选择。

• 选择更现代一些的&＃xff0c;这里的现代是指语言本身已经完成一些之前需要特殊处理的特性&＃xff0c;比如内存管理&＃xff0c;线程等等。

• 选择开源轮子多的或者社区活跃度高的&＃xff0c;这个原则是为了保证在开发过程中减少投入&＃xff0c;有稳定可靠的轮子可以使用&＃xff0c;遇到问题可以在网上快速搜索到答案。

• 选择好招人的 一门合适的语言会让创业团队减少招聘的成本&＃xff0c;快速招到合适的人。

• 选择能让人有兴趣的 与上面一点相关&＃xff0c;让人感兴趣&＃xff0c;在后面留人时有用。

2、选择合适的组件和云服务商

• 选择靠谱的云服务商&＃xff1b;

• 选择云服务商的组件&＃xff1b;

• 选择成熟的开源组件&＃xff0c;而不是最新出的组件&＃xff1b;

• 选择采用在一线互联网公司落地并且开源的&＃xff0c;且在社区内形成良好口碑的产品&＃xff1b;

• 开源社区活跃度&＃xff1b;

选择靠谱的云服务商&＃xff0c;其实这是一个伪命题&＃xff0c;因为哪个服务商都不靠谱&＃xff0c;他们所承诺的那些可用性问题基本上都会在你的身上发生&＃xff0c;这里我们还是需要自己做一些工作&＃xff0c;比如多服务商备份&＃xff0c;如用 CDN&＃xff0c;你一定不要只选一家&＃xff0c;至少选两家&＃xff0c;一个是灾备&＃xff0c;保持后台切换的能力&＃xff0c;另一个是多点覆盖&＃xff0c;不同的服务商在 CDN 节点上的资源是不一样的。

选择了云服务商以后&＃xff0c;就会有很多的产品你可以选择了&＃xff0c;比较存储&＃xff0c;队列这些都会有现成的产品&＃xff0c;这个时候就纠结了&＃xff0c;是用呢&＃xff1f;还是自己在云主机上搭呢&＃xff1f;在这里我的建议是前期先用云服务商的&＃xff0c;大了后再自己搞&＃xff0c;这样会少掉很多运维的事情&＃xff0c;但是这里要多了解一下云服务商的组件特性以及一些坑&＃xff0c;比如他们内网会经常断开&＃xff0c;他们升级也会闪断&＃xff0c;所以在业务侧要做好容错和规避。

关于开源组件&＃xff0c;尽可能选择成熟的&＃xff0c;成熟的组件经历了时间的考验&＃xff0c;基本不会出大的问题&＃xff0c;并且有成套的配套工具&＃xff0c;出了问题在网上也可以很快的找到答案&＃xff0c;你所遇到的坑基本上都有人踩过了。 另外&＃xff0c;搜索公众号GitHub猿后台回复“理财”&＃xff0c;获取一份惊喜礼包。

3、制定流程和规范

• 制定开发的规范&＃xff0c;代码及代码分支管理规范&＃xff0c;关键性代码仅少数人有权限&＃xff1b;

• 制定发布流程规范&＃xff0c;从发布系统落地&＃xff1b;

• 制定运维规范&＃xff1b;

• 制定数据库操作规范&＃xff0c;收拢数据库操作权限&＃xff1b;

• 制定告警处理流程&＃xff0c;做到告警有人看有人处理&＃xff1b;

• 制定汇报机制&＃xff0c;晨会/周报&＃xff1b;

4、自研和选型合适的辅助系统

所有的流程和规范都需要用系统来固化&＃xff0c;否则就是空中楼阁&＃xff0c;如何选择这些系统呢&＃xff1f;参照上个章节咱们那些开源的&＃xff0c;对比一下选择的语言&＃xff0c;组件之类的&＃xff0c;选择一个最合适的即可。

比如项目管理的&＃xff0c;看下自己是什么类型的公司&＃xff0c;开发的节奏是怎样的&＃xff0c;瀑布&＃xff0c;敏捷的 按项目划分&＃xff0c;还是按客户划分等等&＃xff0c;平时是按项目组织还是按任务组织等等。

比如日志系统&＃xff0c;之前是打的文本&＃xff0c;那么上一个 ELK&＃xff0c;规范化一些日志组件&＃xff0c;基本上很长一段时间内不用考虑日志系统的问题&＃xff0c;最多拆分一下或者扩容一下。等到组织大了&＃xff0c;自己搞一个日志系统。

比如代码管理&＃xff0c;项目管理系统这些都放内网&＃xff0c;安全&＃xff0c;在互联网公司来说&＃xff0c;属于命脉了&＃xff0c;命脉的东西还是放在别人拿不到或很难拿到的地方会比较靠谱一些。

5、选择过程中需要思考的问题

技术栈的选择有点像做出了某种承诺&＃xff0c;在一定的时间内这种承诺没法改变&＃xff0c;于是我们需要在选择的时候有一些思考。

看前面内容&＃xff0c;有一个词出现了三次&＃xff0c;合适&＃xff0c;选择是合适的&＃xff0c;不是最好&＃xff0c;也不是最新&＃xff0c;是最合适&＃xff0c;适合是针对当下&＃xff0c;这种选择是最合适的吗&＃xff1f;比如用 Go 这条线的东西&＃xff0c;技术比较新&＃xff0c;业界组件储备够吗&＃xff1f;组织内的人员储备够吗&＃xff1f;学习成本多少&＃xff1f;写出来的东西能满足业务性能要求吗&＃xff1f;能满足时间要求吗&＃xff1f;

向未来看一眼&＃xff0c;在一年到三年内&＃xff0c;我们需要做出改变吗&＃xff1f;技术栈要做根本性的改变吗&＃xff1f;如果组织发展很快&＃xff0c;在 200 人&＃xff0c;500 人时&＃xff0c;现有的技术栈是否需要大动&＃xff1f;

创业过程中需要考虑成本&＃xff0c;这里的成本不仅仅是花费多少钱&＃xff0c;付出多少工资&＃xff0c;有时更重要的是时间成本&＃xff0c;很多业务在创业时大家拼的就是时间&＃xff0c;就是一个时间窗&＃xff0c;过了就没你什么事儿了。

来源&＃xff1a;https://weibo.com/ttarticle/p/show?id&＃61;2309404434135098720341

刚刚整理好了的第五版《Java大厂面试题》&＃xff0c;而且已经分类 25份 PDF&＃xff0c;累计 2098页&＃xff01;整理的面试题&＃xff0c;内容列表互联网大厂面试题&＃xff0c;怎么领取&＃xff1f;注意&＃xff0c;不要乱回复 &＃xff08;一定要回复 面试题 &＃xff09;否则获取不了

点分享
点收藏
点点赞
点在看