随着互联网+时代的到来,各行业IT系统的数据量呈现指数级增长,一方面需要面向海量客户、快速响应客户需求,另一方面,快速的业务增长也给数据存储平台带来了更高的挑战,传统数据库的性能和扩展性无法满足数据分析的查询实效性和性能要求。
“数据库中数据太多了,生成报表慢,怎么办?”这已成为很多公司的普遍情况。
用户现象
数据分析慢!非常慢!
打开报表就卡死崩溃,每操作一步都寸步难行,谈何数据透视表、可视化?近千万行的数据,订单提交数据库,sql sever处理要5分多钟,如果频繁入库/取数?
查个报表一个小时,下班了还没查完,经常因为系统慢而加班,业务部门怨声载道。上报公司高层,IT部门压力非常大!
原因分析
首先我们来看下行业现状,为什么说这个情况普遍?往下看就知道了……
大数据时代的到来,给目前传统的分析系统带来了巨大挑战,尤其是以下几个方面:
- 业务数据增长迅速:随着企业业务的迅猛增长,业务数据规模也呈线性爆发式增长。传统的数据库部署已经无法处理TB级及PB级的数据量。
- 数据实时查询性能低:信息的时间价值是非常重要的。传统数据库的性能较低,无法满足基于大量明细数据的实时查询和汇总分析需求。
- 手工统计耗时耗力:大量业务数据无序堆积,手工统计报表耗时耗力,无法快速发现业务中的异常情况并作出应对。
- 大数据价值无法深入应用:传统分析系统都是基于数据概要的统计分析,无法满足深度的数据挖掘分析要求,大大降低了业务数据的分析价值。
传统分析系统面临巨大挑战,究其根源,在于传统分析系统的架构过于陈旧,大多都是基于行式的数据库和共享磁盘的纵向扩展架构,这种架构已经从根本上无法满足大数据实时分析的要求。
解决方案
基于以上背景,亿信华辰基于MPP的一站式高性能智能数据中台产品解决方案应运而生。解决方案中兼备全能型BI可视化工具和性能强劲的MPP分布式数据库,完美解决了数据量大、查询慢、数据分析难等大数据深入应用的难题。
①功能全面的BI应用
智能数据中台产品解决方案中的BI可视化平台——亿信BI,可为用户提供多种分析手段,具体功能包括报表报告、数据可视化、自助式分析、数据挖掘等,可以满足企业管理不同用户的数据分析应用需求,如企业报表统计、Dashboard、自助式分析、地图展现、指挥大屏、数据预测等。
②高性能的数据处理
智能数据中台产品解决方案为了应对数据查询慢、性能低的问题,采用了基于列存储的MPP数据库—Vertica。Vertica是以速度、可扩展性、简便性和开放性为目标的核心SQL数据库分析引擎。它能够处理PB甚至EB规模的数据,它可以为客户提供:
- 全面而又先进的基于SQL的分析功能,可执行强大的SQL分析
- 群集化的大数据存储,用于提供卓越的查询和分析性能
- 更出色的压缩功能,与同类数据分析解决方案相比,所需的硬件和存储空间更少
- 灵活性和可扩展能力,可随工作负载的增加轻松扩容
- 更高的负载吞吐量,以及更好的并行查询能力
- 通过R和Python及数据库内机器学习算法实现预测性分析
- 减少了数据库管理员(DBA)对日常管理和调整的干预
小结
日前,亿信华辰与Vertica正式达成战略合作,通过亿信华辰BI平台和Vertica的整合,智能数据中台产品解决方案可为用户提供大规模批量计算、高并发查询、大数据量实时分析等服务。
BI产品和MPP产品互补性强,有了智能数据中台产品解决方案,客户可以以更优惠的价格享受到比任何数据仓储或数据库技术快50-1000倍。作为高效处理海量数据的领先大数据分析解决方案,未来能够解决各行各业的数据应用场景,提升工作效率。