如虎添翼高德地图+Serverless护航你的假日出行

引言

“前方事故多发地段,请注意保持车距...”

“您已疲劳驾驶&＃xff0c;请注意休息...”

“前方经过泰山旅游景区&＃xff0c;中国 5 A级景区&＃xff0c;是第一批国家级风景名胜区...."

......

这是高德出行的导航场景&＃xff0c;像这样暖心的语音提示&＃xff0c;在春节期间的每天都会有上百亿次&＃xff0c;以保障您的出行安全。然而这背后&＃xff0c;任何系统抖动或者故障&＃xff0c;都会影响到用户的出行安全&＃xff0c;所以在节日期间整个团队会严阵以待并去现场值班&＃xff0c;以保障系统的稳定性。

在过去的 2021 年&＃xff0c;高德地图提出了新的品牌主张&＃xff1a;在“高德地图&＃xff0c;哪儿都熟”的背景下&＃xff0c;高德出行 App 增添了更多的用户使用场景&＃xff0c;随之而来业务系统也变得更为复杂。为了保障系统的稳定性&＃xff0c;每一个节日大促期间&＃xff0c;都会有同事去现场值班。

为了解决这一困境&＃xff0c;我们对系统架构进行了更深的思考&＃xff0c;并一致认同 Serverless 会是未来的技术趋势&＃xff0c;所以在过去的一年中&＃xff0c;我们对 Serverless 技术做了很多的探索&＃xff0c;并实现了部分核心业务的 Serverless 化。利用 Serverless &＃xff1a;低成本&＃xff0c;免运维&＃xff0c;高弹性等优势&＃xff0c;达成了上述提及业务&＃xff0c;节假日无需同事再去现场值班的目标&＃xff0c;让团队成员可以在家过一个安心团圆年。

本文会分享过去的一年&＃xff0c;高德地图在 Serverless 领域做过哪些探索&＃xff1f;如何与业务相结合&＃xff0c;实现了一个低成本&＃xff0c;低代码&＃xff0c;免运维的现代化的 Serverless 研发平台。

业务背景

自 2021 年 7 月&＃xff0c;高德地图宣布品牌履新&＃xff1a;整体向 “出门好生活开放服务平台”升级&＃xff0c;同时提出了“高德地图&＃xff0c;哪儿都熟”的新品牌主张。高德地图从导航工具升级为出行服务平台、生活信息服务入口&＃xff1b; 为了更好地服务用户&＃xff0c;拓展和出行相关的生活信息服务场景&＃xff1a;高德地图主图、我的页面、行前行后场景以业务卡片的方式&＃xff0c;透出了业务推荐信息。下图是高德 App 中出现的几个典型卡片推荐场景&＃xff1a;

样式多变

高德地图的业务特点之一是&＃xff1a;高频率的样式变化。节日气氛的衬托、假期旅游的引导、交通信息的提醒等等多变不同的需求下&＃xff0c;亟需一种能够快速迭代的研发模式。而传统的研发模式是&＃xff1a;每一个变化都是在 App 客户端上研发&＃xff0c;然后随着 App 版本的发布进行样式再更新。&＃xff08;这种发版效率很慢&＃xff0c;并且要考虑到稳定性&＃xff1b;每月一个版本&＃xff0c;如果仍使用这种研发模式&＃xff0c;其实是很难满足业务需求的。&＃xff09;

策略多变

卡片业务背后的后端代码&＃xff0c;会随着业务类型的不断增加&＃xff0c;因此相应的业务策略越来越多&＃xff0c;如果不及时与系统功能模块进行抽离&＃xff0c;就像生命力顽强的爬山虎一样&＃xff0c;系统代码不断无序增加&＃xff0c;越来越臃肿&＃xff0c;复杂性也越来越高。而多变的策略&＃xff0c;会要求在系统架构上做出改变&＃xff0c;达到策略的快速增加与删除&＃xff0c;以及实时的生效。

客户端瘦身

过多的业务逻辑糅合到客户端&＃xff0c;虽然可以一定程度上提高性能&＃xff0c;但是如果客户端过大&＃xff0c;也会导致用户不愿更新。其实动辄几百兆的更新&＃xff0c;不仅会增加我们的带宽成本&＃xff0c;也占用了用户的数据流量。此外因为代码多&＃xff0c;相应的涉及业务也多&＃xff0c;如果每一个业务都有快速迭代的要求&＃xff0c;这就需要 App 客户端拥有能够快频率的更新的能力。

两者构成了恶性的循环&＃xff0c;不利于 App 的长期发展&＃xff0c;所以客户端瘦身势在必行。

早晚峰值

上班早高峰&＃xff0c;下班晚高峰&＃xff0c;相信大家都有过一致的体验&＃xff1a;堵 &＃xff01;&＃xff01;同样地图导航类应用&＃xff0c;早晚峰值时间段非常的明显&＃xff0c;且峰值和低谷的波谷差距非常大&＃xff0c;如果所有的机器资源按照峰值去准备&＃xff0c;这成本无疑是非常高的&＃xff0c;在低峰期&＃xff0c;会造成极大的资源浪费。所以我们需要能够按需使用的弹性资源技术&＃xff0c;去降低我们的机器资源成本。

技术选型

经过架构组的多轮讨论&＃xff0c;最终我们并达成达成一致目标&＃xff1a;全面拥抱 Serverless。 因为 Serverless 的优势特点&＃xff0c;恰好解决了我们的业务痛点需求。我们也相信未来一定是属于 Serverless 的时代。

Serverless for frontend

不用多说&＃xff0c;当下前端最热的技术趋势就是&＃xff1a;云端一体化研发模式&＃xff0c;它实际上是以 Serverless 技术作为技术底座去构建的现代化应用研发模式&＃xff1b;不仅降低了“全栈开发工程师” 的技术门槛&＃xff0c;还大幅提高了研发效率&＃xff0c;阿里内部多个大型 App 都已全量使用&＃xff0c;比如淘宝&＃xff0c;天猫&＃xff0c;飞猪等等。经过严格的数据统计&＃xff0c;Serverless 在研发提效上能提高 38%&＃xff0c;这也是我们选择 Serverless 最重要的数据依据。除此以外&＃xff0c;基于 Serverless 实现的 CSR/SSR 首屏提速技术方案&＃xff0c;目前也已经非常的成熟&＃xff0c;几乎覆盖了阿里内部的 App 应用。

快速迭代

工程卓越一直是我们的追求目标&＃xff0c;但是由于各大技术产品关注重点不同&＃xff0c;所以对于“研发最后一公里”的相关事项并没有做太多关注&＃xff0c;这就导致了技术产品的功能与用户体验出现割裂感&＃xff0c;很多业务方放弃使用。

Serverless 的目标就是让你尽可能多的专注自己的业务逻辑&＃xff0c;能够少关注或者忽略非业务核心的运维工作&＃xff1b;加速开发时间&＃xff0c;降低线上资源的冗余成本&＃xff0c;所以 Serverless 无疑是扛得起降本提效的大旗的。

完全弹性

请求毫秒级的调度是 Serverless 的核心竞争力&＃xff0c;相比传统的分钟级弹性扩容&＃xff0c;Serverless 技术存在巨大的成本优势&＃xff0c;扩容所耗费的时间越少&＃xff0c;预留的机器资源就会更低&＃xff0c;如果到了毫秒级别&＃xff0c;就无需预留任何资源&＃xff0c;这样成本能够大大的降低&＃xff0c;资源利用率可以达到 100%。

低成本迁移利器 - Runtime/Container

做过程序员的同学都知道最痛苦的事情是“改别人的代码”&＃xff0c;因此&＃xff0c;虽然 Serverless 技术十分诱人&＃xff0c;但是对于存量的应用如何迁移到 Serverless 架构上&＃xff0c;也一直困扰着我们。

我们应如何以低代码的方式解决传统架构潮汐流量对资源使用不合理的问题&＃xff0c;于是我们跟 Serverless 团队同和合作开发 Runtime。由于高德的服务均以 C&＃43;&＃43;、Go、Rust 的语言设计&＃xff0c;于是我们开发出 C&＃43;&＃43;、Go、Rust 的 Runtime。Runtime 集成了集团内的中间件&＃xff0c;使得 Serverless 架构可以满足我们之前服务的整个生命周期。让我们可以快速的切换服务到 Serverless 平台上。

但是随着我们使用量变大&＃xff0c;业务场景比较复杂&＃xff0c;一些对外的服务是无法使用内部 Runtime 的&＃xff0c;这个严重的问题一直掣肘着我们&＃xff0c;使原有的架构由简单又变得复杂起来。直到阿里云 Serverless 团队的同学&＃xff0c;推出了 Custom Runimte/Container 功能&＃xff0c;彻底解决了我们后顾之忧。我们只需改几行启动命令&＃xff0c;就可以轻松迁移存量的应用。Serverless 团队也针对镜像的快速分发做了大量的创新优化工作&＃xff0c;如使用四级缓存&＃xff0c;P2P 技术&＃xff0c;按需下载等方式&＃xff0c;提供了秒级别下载 3G 大小镜像的能力。

得益于 Serverless 技术加持&＃xff0c;无人值守的目标也就很容易达成&＃xff0c;所有的运维操作&＃xff0c;都通过 Serverless 的强大调度能力去解决&＃xff0c;比如峰值高峰期&＃xff0c;系统会自动毫秒级别进行扩容&＃xff0c;低峰期同样也会 Graceful 的进行缩容&＃xff0c;不涉及任何人为操作运维&＃xff0c;所以这也解决了我们在节日大促期间过多人现场值班的困境。

Serverless 技术落地

架构设计

在系统设计上&＃xff0c;我们引入了两层 FaaS (Function as a Serverles)&＃xff0c;端 FaaS 和业务 FaaS&＃xff0c;其中&＃xff1a;

• 端 FaaS&＃xff0c;也就是 SFF &＃xff08; Serverless for frontend)&＃xff0c;基于 Node.js&＃xff0c;实现了端云一体化开发&＃xff0c;将原本客户端的逻辑移到 FaaS 服务端来。这里在传统的 Frontend 和 Backend 之间抽象出了 SFF &＃xff0c;用来实现数据和调用逻辑封装&＃xff0c;快速开发、发布。
• 在后端&＃xff0c;引入业务 FaaS&＃xff0c;基于 Java/Go 实现, 用来封装推荐策略逻辑和数据转换代码&＃xff0c;可以提高策略迭代效率&＃xff0c;同时减少策略迭代对主工程的影响。

从整体上看&＃xff0c;将函数计算和容器化微服务整合在一起&＃xff0c;综合利用函数计算的高效和传统微服务的灵活&＃xff0c;是一种实用高效的架构设计思路。

快速迭代

作为核心的应用&＃xff0c;需要一套完备的 CI/CD 流程去保障应用的质量&＃xff0c;针对函数的质量&＃xff0c;我们基于了 Serverless Devs 工具链同样实现了一套研发全流程方案:。不仅具备函数多环境&＃xff0c;函数灰度切流&＃xff0c;函数可观测等能力&＃xff0c;而且通过这套 Serverless 研发体系&＃xff0c;我们实现了 1 分钟开始进入开发&＃xff0c;5 分钟完成上线的能力&＃xff0c;同时默认具备异地多活的能力。

限流降级&＃xff0c;异地多活

对于大流量应用的稳定性&＃xff0c;限流保护&＃xff0c;降级预案&＃xff0c;异地多活是三大必备功能。特别是大促的时候&＃xff0c;非预期的流量都可能引起系统雪崩&＃xff0c;在我们的 Serverless 研发平台上&＃xff0c;集成了阿里云函数计算的并发度流控&＃xff0c;QPS 流控的能力&＃xff0c;做到了函数粒度的流控。

另外一个亮点是&＃xff0c;FaaS 的容灾方案与传统应用的容灾方案相比&＃xff0c;有着巨大的优势。在传统应用的容灾方案中&＃xff0c;异地多活需要在备机房中准备冗余的机器资源&＃xff0c;这些资源也就是成本&＃xff0c;但是在 Serverless 场景下的方案中&＃xff0c;因为是快速弹性&＃xff0c;秒级别就能完成资源的准备&＃xff0c;所以无需进行资源冗余准备&＃xff0c;这就大大节省了成本。虽然是三单元&＃xff0c;但是成本仍然是一个单元的费用&＃xff0c;目前所有核心的函数应用&＃xff0c;我们都默认实现了三单元容灾。

冷启动优化

如果你的业务对于冷启动非常的敏感&＃xff0c;比如 50 ~ 100毫秒的延迟增加&＃xff0c;你都无法接受的话&＃xff0c;不要担心&＃xff0c;我们仍可以通过扩容策略进行弥补&＃xff1a;预留资源来消减冷启动对业务的影响。

• 预留实例&＃xff0c;根据产品流量曲线&＃xff0c;很容易得出固定流量是多少。这部分流量用“预留模式”&＃xff0c;适合冷启动敏感的业务&＃xff1b;
• 按量扩容模式&＃xff0c;按用户设置的并发度或者 CPU 利用率阈值进行扩容&＃xff0c;扩容中的实例&＃xff0c;不会立即接收流量&＃xff0c;而是实例 Ready 后再进行服务。所以扩容中新增的流量会仍然派发到“正在服务中”的实例&＃xff0c;并不会触发冷启动。

展望

在过去的 2021 年&＃xff0c;高德在 Serverless 领域中&＃xff0c;做了很多方向的探索&＃xff0c;也实现了部分核心业务的 Serverless 化。单在 Serverless 的业务 QPS 峰值就已经超过 40W QPS&＃xff0c; 然而这不是终点&＃xff0c;只是刚刚开始&＃xff0c;后续我们会全面转向 Serverless 化。比如&＃xff0c;地图数据的处理&＃xff0c;图片的栽剪&＃xff0c;消息的消费等等这些离线的非在线应用&＃xff0c;它们同样也是 Serverless 的最佳适用场景&＃xff0c;我们期望今后有更多的场景去使用 Serverless&＃xff0c;享受 Serverless 给我们带来的技术红利 &＃xff01;

原文链接

本文为阿里云原创内容&＃xff0c;未经允许不得转载。