为了让你更好地体验 Serverless 带来的变革&＃xff0c;以 Serverless 版本的"Hello World"实操例子进行展示。鉴于我的熟悉程度&＃xff0c;我选择了阿里云&＃xff0c;当然&＃xff0c;你也可以选择你熟悉的云服务商
另外&＃xff0c;需要注意的是&＃xff0c;如果你是跟着我一步步实操练习的&＃xff0c;那么开通云服务可能会产生少量费用&＃xff0c;遇到充值提示你要自行考虑一下。当然&＃xff0c;如果你不着急体验&＃xff0c;我觉得看我的视频演示也已经足够了。
我们从上面的演示也看到了&＃xff0c;会用 Serverless 这个目标我觉得不难实现&＃xff0c;但这不是我们这节课的终极目的。今天我就想带着你打开这个 FaaS "Hello World"应用的引擎盖&＃xff0c;来看看它内部到底是如何运行的。为什么要急着给你讲原理呢&＃xff1f;因为如果你不理解原理的话&＃xff0c;后面在应用 Serverless 化的时候就无从下手了。
FaaS 是怎么运行的&＃xff1f;
现在大家都觉得 Serverless 是个新东西&＃xff0c;是个新风口&＃xff0c;刚才在演示的视频里你也能看到&＃xff0c;它确实很方便。但你也不用把它想得多复杂&＃xff0c;运行应用的那套逻辑还没有变化&＃xff0c;Serverless 只是用技术手段帮我们屏蔽了复杂性&＃xff0c;这点它和其他的云技术没有任何差别。
你可以想想&＃xff0c;在 Serverless 出现之前&＃xff0c;我们要部署这样一个"Hello World"应用得何等繁琐。首先为了运行我们的应用&＃xff0c;我们要在服务端构建代码的运行环境&＃xff1a;我们要购买虚拟机服务&＃xff0c;初始化虚拟机运行环境&＃xff0c;安装我们需要的应用运行环境&＃xff0c;尽量和本地开发环境保持一致&＃xff1b;紧接着为了让用户能够访问我们刚刚启动的应用&＃xff0c;我们需要购买域名&＃xff0c;用虚拟机 IP 注册域名&＃xff1b;配置 Nginx&＃xff0c;启动 Nginx&＃xff1b;最后我们还需要上传应用代码&＃xff0c;启动应用。
你可以闭上眼睛想想是不是我说的这样&＃xff0c;当然&＃xff0c;为了方便你理解&＃xff0c;我还画了张图。前面 5 步都准备好了&＃xff0c;用户在第 6 步才能成功访问到我们的应用。
与上面传统流程形成鲜明对比的是&＃xff0c;我们刚刚的 Serverless 部署只需要简单的 3 步&＃xff0c;而且目前这样操作下来&＃xff0c;没有产生任何费用。上一课我们讲过&＃xff0c;Serverless 是对服务端运维体系的极端抽象。注意&＃xff0c;这句话里面有个关键词&＃xff0c;“抽象”&＃xff0c;我没有用“革新”“颠覆”之类的词语&＃xff0c;也就是说&＃xff0c;用户 HTTP 数据请求的全链路&＃xff0c;并没有质的改变&＃xff0c;Serverless 只是将全链路的模型简化了。
具体来说&＃xff0c;之前我们需要在服务端构建代码的运行环境&＃xff0c;而 FaaS 应用将这一步抽象为函数服务&＃xff1b;之前我们需要负载均衡和反向代理&＃xff0c;而 FaaS 应用将这一步抽象为 HTTP 函数触发器&＃xff1b;之前我们需要上传代码和启动应用&＃xff0c;而 FaaS 应用将这一步抽象为函数代码。
触发器、函数服务……咦&＃xff0c;是不是发现开始出现了一些陌生名词&＃xff1f;不用着急&＃xff0c;还是对照着上面这张图&＃xff0c;我给你再串下"Hello World"这个纯 FaaS 应用的数据请求链条。理解了这些链条&＃xff0c;你自然就理解了这几个新名词的背景了。
咱们先从图的右边开始看&＃xff0c;图上我标注了次序。当用户第一次访问 HTTP 函数触发器时&＃xff0c;函数触发器就会 Hold 住用户的 HTTP 请求&＃xff0c;并产生一个 HTTP Request 事件通知函数服务。
紧接着函数服务就会检查有没有闲置的函数实例&＃xff1b;如果没有函数实例&＃xff0c;就去函数代码仓库中拉取你的代码&＃xff1b;初始化并启动一个函数实例&＃xff0c;执行这个函数&＃xff0c;传入这个 HTTP Request 对象作为函数的参数&＃xff0c;执行函数。
再进一步&＃xff0c;函数执行的结果 HTTP Response 返回函数触发器&＃xff0c;函数触发器再将结果返回给等待的用户客户端。如果你还记得的话&＃xff0c;我们刚刚的视频演示&＃xff0c;你可以看到我们的纯 FaaS "Hello World"应用例子中&＃xff0c;默认创建了 3 个服务。
第一个"GreetingServiceGreetingFunctionhttpTrigger"函数触发器&＃xff0c;函数触发器是所有请求的统一入口&＃xff0c;当请求发生时&＃xff0c;它会触发事件通知函数服务&＃xff0c;并且等待函数服务执行返回后&＃xff0c;将结果返回给等待的请求。
第二个"GreetingService"函数服务&＃xff0c;当函数触发器通知的“事件”到来&＃xff0c;它会查看当前有没有闲置的函数实例&＃xff0c;如果有则调用函数实例处理&＃xff1b;如果没有&＃xff0c;则会创建函数实例&＃xff0c;等实例创建完毕后&＃xff0c;再调用函数实例处理事件。
第三个"GreetingServiceGreetingFunction"函数代码&＃xff0c;“函数服务”在第一次实例化函数时&＃xff0c;就会从这个代码仓库中拉取代码&＃xff0c;并构建函数实例。
理解了 FaaS 应用调用链路&＃xff0c;我想你可能会问&＃xff1a;“真够复杂&＃xff0c;折腾来折腾去&＃xff0c;怎么感觉它的这套简化逻辑很像以前新浪的 SAE 或者 Heroku 那样的 NoOps 应用托管 PaaS 平台&＃xff1f;”不知道你是不是有这样的问题&＃xff0c;反正我当时第一次接触 Serverless 时就有类似的疑问。
其实&＃xff0c;FaaS 与应用托管 PaaS 平台对比&＃xff0c;最大的区别在于资源利用率&＃xff0c;这也是 FaaS 最大的创新点。FaaS 的应用实例可以缩容到 0&＃xff0c;而应用托管 PaaS 平台则至少要维持 1 台服务器或容器。
你注意看的话&＃xff0c;在上面"Hello World"例子中&＃xff0c;函数在第一次调用之前&＃xff0c;实际的服务器占用为 0。因为直到用户第一次 HTTP 数据请求过来时&＃xff0c;函数服务才被 HTTP 事件触发&＃xff0c;启动函数实例。也就是说没有用户请求时&＃xff0c;函数服务没有任何的函数实例&＃xff0c;也就不占用任何的服务器资源。而应用托管 PaaS 平台&＃xff0c;创建应用实例的过程通常需要几十秒&＃xff0c;为了保证你的服务可用性&＃xff0c;必须一直维持着至少一台服务器运行你的应用实例。
打个比方的话&＃xff0c;FaaS 就有点像我们的声控灯&＃xff0c;有人的时候它可以很快亮起来&＃xff0c;没人的时候又可以关着。对比传统的需要人手动开关的灯&＃xff0c;声控灯最大的优势肯定就是省电了。但你想想&＃xff0c;能省电的前提是有人的时候&＃xff0c;声控灯能够找到比较好的方式快速亮起来。
FaaS 也是这样&＃xff0c;它优势背后的关键点是可以极速启动。那它是怎么做的呢&＃xff1f;要理解极速启动背后的逻辑&＃xff0c;这里我就要引入冷启动的概念了。
FaaS 为什么可以极速启动&＃xff1f;
冷启动本来是 PC 上的概念&＃xff0c;它是指关闭电源后&＃xff0c;PC 再启动仍然需要重新加载 BIOS 表&＃xff0c;也就是从硬件驱动开始启动&＃xff0c;因此启动速度很慢。
现在的云服务商&＃xff0c;线上物理服务器断电重启几乎是不太可能的。FaaS 中的冷启动是指从调用函数开始到函数实例准备完成的整个过程。冷启动我们关注的是启动时间&＃xff0c;启动时间越短&＃xff0c;我们对资源的利用率就越高。现在的云服务商&＃xff0c;基于不同的语言特性&＃xff0c;冷启动平均耗时基本在 100&＃xff5e;700 毫秒之间。得益于 Google 的 Javascript 引擎 Just In Time 特性&＃xff0c;Node.js 在冷启动方面速度是最快的。
100&＃xff5e;700 毫秒的冷启动时间&＃xff0c;我不知道你听到这个数据的时候是不是震惊了一下。
下面这张图是 FaaS 应用冷启动的过程。其中&＃xff0c;蓝色部分是云服务商负责的&＃xff0c;红色部分由你负责&＃xff0c;而函数代码初始化&＃xff0c;一人一半。也就是说蓝色部分在冷启动时候的耗时你不用关心&＃xff0c;而红色部分就是你的函数耗时。至于资源调度是要做什么&＃xff0c;你可以先忽略&＃xff0c;我后面会提到。
例如从刚才演示视频的云服务控制台我们可以看到&＃xff0c;"Hello World"的单次函数耗时是 0.0125 CU-S&＃xff0c;也就是说耗时 12.5 毫秒&＃xff0c;实际我们抓数据包来看&＃xff0c;除去建立连接的时间&＃xff0c;我们整个 HTTPS 请求到完全返回结果需要 100 毫秒。我们负责的红色部分耗时是 12.5 毫秒&＃xff0c;也就是说云服务商负责的蓝色部分耗时是 87.5 毫秒。
注意&＃xff0c;FaaS 服务从 0 开始&＃xff0c;启动并执行完一个函数&＃xff0c;只需要 100 毫秒。这也是为什么 FaaS 敢缩容到 0 的主要原因。通常我们打开一个网页有个关键指标&＃xff0c;响应时间在 1 秒以内&＃xff0c;都算优秀。这么一对比&＃xff0c;100 毫秒的启动时间&＃xff0c;对于网页的秒开率影响真的极小。
而且可以肯定的是&＃xff0c;云服务商还会不停地优化自己负责的部分&＃xff0c;毕竟启动速度越快对资源的利用率就越高&＃xff0c;例如冷启动过程中耗时比较长的是下载函数代码。所以一旦你更新代码&＃xff0c;云服务商就会偷偷开始调度资源&＃xff0c;下载你的代码构建函数实例的镜像。请求第一次访问时&＃xff0c;云服务商就可以利用构建好的缓存镜像&＃xff0c;直接跳过冷启动的下载函数代码步骤&＃xff0c;从镜像启动容器&＃xff0c;这个也叫预热冷启动。所以如果我们有些业务场景对响应时间比较敏感&＃xff0c;我们就可以通过预热冷启动或预留实例策略&＃xff0c;加速或绕过冷启动时间。
了解了冷启动的概念&＃xff0c;我们再看看为什么 FaaS 可以极速启动&＃xff0c;而应用托管平台 PaaS 不行&＃xff1f;
首先应用托管平台 PaaS 为了适应用户的多样性&＃xff0c;必须支持多语言兼容&＃xff0c;还要提供传统后台服务&＃xff0c;例如 MySQL、Redis。
这也意味着&＃xff0c;应用托管平台 PaaS 在初始化环境时&＃xff0c;有大量依赖和多语言版本需要兼容&＃xff0c;而且兼容多种用户的应用代码往往也会增加应用构建过程的时间。所以通常应用托管平台 PaaS 无法抽象出轻量的可复用的层级&＃xff0c;只能选择服务器或容器方案&＃xff0c;从操作系统层开始构建应用实例。
FaaS 设计之初就牺牲了用户的可控性和应用场景&＃xff0c;来简化代码模型&＃xff0c;并且通过分层结构进一步提升资源的利用率。学到这里&＃xff0c;我们得来看看隐藏在 FaaS 冷启动中最重要的革新技术&＃xff1a;分层结构。
FaaS 是怎么分层的&＃xff1f;
你的 FaaS 实例执行时&＃xff0c;就如上图所示&＃xff0c;至少是 3 层结构&＃xff1a;容器、运行时 Runtime、具体函数代码。容器你可以理解为操作系统 OS。代码要运行&＃xff0c;总需要和硬件打交道&＃xff0c;容器就是模拟出内核和硬件信息&＃xff0c;让你的代码和 Runtime 可以在里面运行。容器的信息包括内存大小、OS 版本、CPU 信息、环境变量等等。目前的 FaaS 实现方案中&＃xff0c;容器方案可能是 Docker 容器、VM 虚拟机&＃xff0c;甚至 Sandbox 沙盒环境。
运行时 Runtime [2]&＃xff0c;就是你的函数执行时的上下文 context。Runtime 的信息包括代码运行的语言和版本&＃xff0c;例如 Node.js v10&＃xff0c;Python3.6&＃xff1b;可调用对象&＃xff0c;例如 aliyun SDK&＃xff1b;系统信息&＃xff0c;例如环境变量等等。
关于 FaaS 的 3 层结构&＃xff0c;你可以这么想象&＃xff1a;容器层就像是 Windows 操作系统&＃xff1b;Runtime 就像是 Windows 里面的播放器暴风影音&＃xff1b;你的代码就像是放在 U 盘里的电影。
这样分层有什么好处呢&＃xff1f;容器层适用性更广&＃xff0c;云服务商可以预热大量的容器实例&＃xff0c;将物理服务器的计算资源碎片化。Runtime 的实例适用性较低&＃xff0c;可以少量预热&＃xff1b;容器和 Runtime 固定后&＃xff0c;下载你的代码就可以执行了。通过分层&＃xff0c;我们可以做到资源统筹优化&＃xff0c;这样就能让你的代码快速低成本地被执行。
理解了分层&＃xff0c;我们再回想一下 FaaS 分层对应冷启动的过程&＃xff0c;其实你就不难理解云服务商负责的就是容器和 Runtime 的准备阶段了。而开发者自己负责的则是函数执行阶段。一旦容器 &Runtime 启动后&＃xff0c;就会维持一段时间&＃xff0c;这段时间内的这个函数实例就可以直接处理用户数据请求。当一段时间内没有用户请求事件发生(各个云服务商维持实例的时间和策略不同)&＃xff0c;则会销毁这个函数实例。具体你可以看下下面这张图&＃xff0c;以辅助你理解。
阿里举集团之力趟坑Serverless,到底它能解决什么问题&＃xff1f;
?分享、点赞、在看&＃xff0c;给个三连击呗&＃xff01;?
京公网安备 11010802041100号