BI系统的前置计算

某机构上了一套分布式数据仓库，历史数据逐步装进了仓库，然后，基于数据仓库构建了BI系统（主要是多维分析）。刚开始，一切都顺利，但随着时间推移，基于中央数据仓库的应用越来越多，几年下来积累了数十个应用。这些应用都需要依赖数据仓库计算，导致中央数据仓库的负担越来越重，BI系统的响应开始变得迟钝起来。对于交互性很强的多维分析业务来讲，这是很难容忍的。

咋办呢？

扩容？这已经是个分布式系统了，节点数也差不多到了MPP型数据仓库的极限，再增加节点并不会有明显的性能提升了。

更换数据仓库？就算有测试出性能更好的产品，敢换吗？几十个应用起码要全部重新测试一轮，否则谁能保证换了数据仓库后这些应用还能正常工作？这要协调多少部门才能动起来？对多维分析测试表现好的产品，对其它应用也会更好吗？如果导致其它应用的响应速度变得更恶劣又怎么办？

中央数据仓库的选择，对于很多机构而言是个重大的政治任务，不大可能仅为某一个应用的问题而轻易更换。

中央数据仓库暂不能动，就只能从应用端想办法。一个常见方案是采用前端计算，即把需要的数据放到应用端，由应用程序直接计算，不再请求中央数据仓库。技术上经常采用的手段是在应用端放一个前置数据库用来提供存储和计算能力。

但是，简单放一个普通数据库却解决不了这里的问题：

1. BI系统需要分析过去多年的全量数据，如果把涉及BI业务的数据都搬出来，那将会是和中央数据仓库规模在同一个数量级上的数据，这相当于要再重建一个分布式数据系统了，这个成本不可能接受了。

2. 如果只放较频繁访问的近期数据，那么确实可以用单个数据库存储。不过，我们却不能预测用户方要分析什么时段的数据，虽然不频繁，但远期历史数据仍然有被访问的可能性。除非在BI应用端做较大改动，要求用户根据访问时段选择不同的数据库，禁止跨时段分析，但这样的用户体验就有点恶劣了，而且要对BI系统做较大改动。

3. 还有个SQL翻译的问题。这里采用的BI系统是第三方厂商提供的半商品化软件，一次分析任务只能同时接一个数据库，也就只会根据这个数据库生成相应语法的SQL语句。如果要同时接入两个数据库，则需要同时生成两套SQL语法。虽然用于多维分析的SQL语句都很规整，但仍然会有部分数据库特有的函数语法（特别是日期时间相关的），这又需要改造前端BI系统了。

4. 该机构惯用的商业数据库采用的是行式存储方案，而多维分析业务背后一般是个大宽表，采用列存存储才能获得更好的性能，这又要更换相对专业一些的列存数据仓库，想寻找一个轻量级的解决方案并不很容易。

在这种场景就适合使用集算器来充当前端计算引擎。

频繁访问的近期数据量不大，单台服务器已经足够存储，不必采用复杂的分布式体系；集算器的组表提供了列存压缩方案，可以提供高性能的遍历统计运算；集算器提供了简单SQL接口，可以直接和BI系统接驳；上面这些都是常规数据库也能提供的，只是集算器更轻量级一些（它甚至可以直接嵌入到BI应用中工作）。

关键的是，集算器提供了开放的计算能力，程序员可以拿到SQL语句后用SPL分拆其中WHERE子句中的时间段参数，识别出该查询涉及的数据范围是哪些。如果只用到本地数据，则由集算器实施计算；如果还涉及更远期的历史数据，则仍将查询发给中央数据仓库完成计算，过程还可以用SPL将SQL语句翻译成数据仓库接受的语法，完美地实现了可编程的数据网关功能。

这样，前端BI系统几乎不用做修改就可以实现后台数据的冷热分离。由于绝大多数频繁访问被集算器接管，要继续转给中央数据仓库的查询请求变得非常少，整体运算性能会有大幅度提高，前端交互响应变得很顺畅。

这是个真实的案例（有个别特征进行了整理以突出典型性）。不过，这里的性能优化并没有涉及到算法层面，主要是应用结构方面的调整。实现这个方案，是不是采用了集算器这个产品并不重要，我们一直提倡的、要把计算从数据库中解放出来的理念才是关键的。开放的计算本身就是一个重要能力，而不是一定要和数据库绑在一起，数据计算需要自己的中间件。

数据蒋堂 第二年原创文章

- 性能优化是个手艺活

- 数据分布背后的逻辑

- 从一道招聘考题谈起

- 为什么我们需要C程序员

- 报表工具的SQL植入风险

- 内置的数据无法实现高性能

- 怎样生成有关联的测试数据

- 遍历复用

- 一些数据压缩手段

- 用HBase做高性能键值查询？

- BI系统中容易被忽视的数据源功能

- 这个产品能支持多大数据量？

- 最简单的大数据性能估算方法

- 大清单报表应当怎么做？

- 大清单报表的打印？

- 大数据技术的4个E

- 做基础软件很悲壮？

- 做基础软件要投入很多钱？

- 国产操作系统还能怎么做？

- 国产数据库通通都没戏！

- 人工智能中的“人工”

- 存储和计算技术的选择

- 区块链技术的一些疑问

- 数据蒋堂新一年

---

润乾软件创始人、首席科学家

中国大数据产业生态联盟 专家委员

1989年国际奥林匹克数学竞赛团体冠军成员，个人金牌

清华大学计算机硕士

发明了非线性报表模型，并著《非线性报表模型原理》

创建离散数据集模型，颠覆四十年关系代数理论体系！

2016、2017年中国软件和信息服务业 • 十大领军人物

2017年度中国数据大工匠

数据领域专业技术讲堂《数据蒋堂》创办者

 点“阅读原文”，在乾学院与作者交流