大疆车载从多家数据库中选定TDengine

小 T 导读：为了满足智能驾驶业务的数据处理需求，大疆车载试图从多家数据库中进行选型调研，帮助智能驾驶业务提升写入查询性能、降低运维成本。本文将分享大疆车载在数据库选型、系统搭建和业务迁移等方面的经验。

根据国家发改委、科技部、工信部等 11 个部门联合印发的《智能汽车创新发展战略》，到 2025 年，中国标准智能汽车的技术创新、产业生态、基础设施、法规标准、产品监管和网络安全体系基本形成。同时，实现有条件智能驾驶的智能汽车达到规模化生产，实现高度智能驾驶的智能汽车在特定环境下市场化应用。目前，随着我国正在积极发展智能网联汽车，无人驾驶技术进一步推动，互联网巨头企业进入市场、加大投入研发技术，无人驾驶市场正处于快速发展阶段。无人机头部企业大疆车载也在去年 4 月份宣布进入智能驾驶领域。

由于当前的智能驾驶业务还是新的业务场景，所以大疆车载在选型上的历史负担相对较轻。在 Database 选型要求上，从业务需求出发，主要聚焦在两点：首先，结合当下的业务场景，需要满足单台车辆的高频消息上报频率；其次，支持在数据量大的时候，通过聚合函数，或选择函数来快速筛选出需要的数据。

此外，对数据库要求支持集群部署的同时，也要求更低的查询语句编写上手难度；而且需支持单表千万量级，在海量数据并发场景下，需要有较高的统计报表能力和较好的查询 SQL 效率；最后通过数据压缩、运维成本和并发能力上的考量，最终选定 TDengine 来存储海量数据。

综合来看，TDengine 满足需求的主要原因如下：

• 国产、开源的时序数据库（Time Series Database）
• 开源版支持分布式集群，方便扩展
• 列式存储，数据压缩比率高，读写性能优秀
• 一个设备一张表，对应我们一个车辆一张表，模型契合
• 超级表对于分组聚合查询的强大支持能力

TDengine 建表思路

作为智能驾驶领域的创新者之一，大疆车载为汽车主机厂提供了软硬一体的智能驾驶解决方案。其中，车辆云端平台负责对车辆状态信息进行监控，具体包括 GPS、速度、转速、里程等，经由 MQTT 流转到 TDengine 存储，满足车辆历史轨迹回放和车辆实时状态监控。

车辆消息样例数据展示如下：

{"message_id": "a78b6d9a","device_key": "deviceKey2","ts": "2022-03-01 15:01:59","longitude": 123.9795647512915,"latitude": 21.58338210717887,"altitude": 51.47800064086914,"signal_strength": 12,"satellites_in_view": 21,"speed": 72.798225,"acceleration": 12,"rpm":2190,"gear": "D","direction": -91.32959,"mileage": 10020,"ip": "10.1.2.3","create_time": "2022-03-01 15:02:03",}

落脚到实际业务上，我们搭建的表结构如下：

我们落地使用的是 TDengine 2.2.1.3 单机版 ，按照车辆唯一的标识 DeviceKey 来创建子表，如 device_stat_$deviceKey，一个车辆的状态信息都存在一张子表中。mqtt_msg 超级表也是一样的逻辑，也是以 DeviceKey 来创建子表。

架构与迁移

除了上报的 GPS、速度等，App 端还会和车辆/设备之间进行大量的命令交互，如下发车辆指令操作，这些我们也是使用 TDengine 来进行存储和链路追踪的。具体到链路消息追踪的使用上，我们会将设备与云端、云端与 App 之间双向通信的 MQTT 消息转发到 Kafka 消息队列中，然后业务系统进行消费解析，得到 TraceID、消息 ID、消息版本、消息类型、消息时间戳、消息内容等不同字段的数据，然后将其写入 TDengine 的 mqtt_msg 超级表当中。

除了写入以外，我们也有一定量的查询操作，但是整体上还是以写入为主，目前 TDengine 的性能完全可以满足我们的需求。不过文本类的检索并不是 TDengine 最擅长的场景，于是我们接入了 ES 提供部分服务。

由于是项目初期，目前我们暂时还在使用 TDengine 和 MySQL 双写新数据，把 MySQL 的 SQL 和 TDengine 的 SQL 做了映射关系，从而实现将历史数据以日志回放的方式迁移到 TDengine 中去。因此，目前两个库暂时可以互为备份，后面等业务完全迁移后，我们就可以使用 TDengine 的集群多副本功能来完成数据备份了。

此外，涛思数据的工作人员也提供了另外两种数据迁移方案供我们参考：一是利用 csv 文件的导出导入。二则是基于一款开源的数据库迁移工具 DataX，该工具目前已经完成了关系型数据库（Relational Database）到 TDengine 的适配，实现了 TDengineReader 和 TDengineWriter 两个插件，迁移时只要做好相应的 json 文件配置即可。

性能展示

在应用 TDengine 之后，车辆的实时状态查询变得十分简单，具体展示如下：

1. 查询单个车辆的上报的最新位置状态

select last_row(*) from device_stat_deJgTAEzInsZeGLM\G;

2. 多个车辆的最新位置状态查询

select last_row(*) from device_stat where device_key in ('mpVOGpaHqAxGiHWo','HEChzTCZeIWSUysB','HgsIdzvJPeFlVDuT','LVaPHOXkEeTGjTpm','PFHnQCkcXCIBnbsC') group by device_key;

对于车辆历史时间区间内的状态查询，也可以极快地返回结果，用以进行前端分析。

select * from device_stat_mpVOGpaHqAxGiHWo where ts >'2022-03-17 00:00:00' and ts <'2022-03-18 00:00:00';

3. 进行 MQTT 消息追踪时，查询 MQTT Broker 收发的最新消息

select last_row(*) from mqtt_msg\G;

4. 按照 requestId 进行消息追踪

select * from mqtt_msg where request_id = 'f90c46d4-22a3-4ab9-b50a-aad8b237fc57'\G;

5. 时间区间内消息查询

select * from mqtt_msg where ts >'2022-03-18 12:00:00' and ts <'2022-03-18 13:00:00';

通过以上的查询情况汇总可以看出，TDengine 实现了一些选择特定数据的查询和轻量的查询，全部都是毫秒级返回数据，即便是 30000+ 行数据的查询，消耗也只在 1.1 秒左右。

写在最后

在当前的云端平台中，TDengine 的应用不仅节约了存储成本和开发学习成本，同时也表现出了很好的写入读取性能，满足了智能驾驶云端平台海量时序数据的处理需求。

未来我们会对海量时空数据的应用场景进行持续探索和挖掘，对于 TDengine 我们也有更多的期许，希望它能：

• 在空间数据的读写上有新的特性和更好的支持
• 拥有更加丰富的认证授权机制，提供更细粒度的权限管控
• 系统性地丰富各类日志，协助更快地定位问题

最后，祝愿 TDengine 越来越好，能够在中国庞大的时序数据处理场景中脱颖而出，成为国产数据库中的精品！

想了解更多 TDengine Database的具体细节，欢迎大家在GitHub上查看相关源代码。