热门标签 | HotTags
当前位置:  开发笔记 > 后端 > 正文

数据仓库_什么是数据中台?跟数据仓库数据平台有什么区别?

篇首语:本文由编程笔记#小编为大家整理,主要介绍了什么是数据中台?跟数据仓库数据平台有什么区别?相关的知识,希望对你有一定的参考价值。 导读:2

篇首语:本文由编程笔记#小编为大家整理,主要介绍了什么是数据中台?跟数据仓库数据平台有什么区别?相关的知识,希望对你有一定的参考价值。










导读:2019年,数据中台是一个很火的名词,基本上遇到的互联网公司都说自己在搞中台。但是什么是中台?到现在我也没有看到一个十分满意的答案。


因此,我在19年参加杭州了阿里的云栖大会,买了市面上能买到了关于中台的书,并且看了公开能看到的资料,同时和很多做过中台的朋友进行了交流,结合自己在实际工作中的理解后,最终整理了三篇短的讲稿,本文是这三篇讲稿的汇总篇,用来回答如下三个问题:












  • 什么是数据中台?



  • 数据中台和数据平台、数据仓库的区别是什么?



  • 做数据中台需要注意什么?













作者 / 来源:木东居士(ID:Data_Engineering)











什么是数据中台?跟数据仓库、数据平台有什么区别?













01 理解数据中台的三重境界






第一重境界:数据平台化







数据中台是要打破重复造轮子的过程,不再每个团队搭建一套Hadoop、Spark这样的大数据组件;而是,从全公司的角度,整合这些工具,所有团队使用公司级别统一提供的大数据平台、开发工具、资产管理平台等。





第二重境界:数据服务化







数据中台要能打通烟囱式的数据体系,减少每个团队的数据“私货”,做到全域数据打通,构建公司级统一的数据仓库。






同时,也提供更方便的数据访问方式:比如数据API、可视化访问、自助提取等。






真正做到,让数据更好用!





第三重境界:数据价值化







数据中台要能做到,让数据真正能产生价值,这是一种结合了数据平台和数据服务后,让数据持续为业务赋能的机制。比如,如何让数据分析结论能落地?数据分析效果反馈的路径是否顺畅等等。





综述







总的来讲:








  • 第一重境界:平台化代表的是工具共享



  • 第二重境界:服务化代表的是数据共享



  • 第三重境界:价值化代表的就是,让数据产生价值







什么是数据中台?跟数据仓库、数据平台有什么区别?













02 数据中台、数据仓库和数据平台的区别和联系







在互联网行业,数据平台一般是指以Spark Hadoop这套开源大数据组件为主的大数据平台。






数据仓库一般是指数据建设的方法论,并且在这一套方法论指导下构建的数据表。它包含了数据建模、元数据管理和数据质量管理等这一整套内容。






关于数据中台可参考前面的内容。






那整体来讲,我们可以大致这样理解:








  • 数据平台提供的是计算和存储能力。



  • 数据仓库是利用数据平台提供的计算和存储能力,在一套方法论指导下建设的一整套的数据表。



  • 数据中台呢,包含了数据平台和数据仓库的所有内容,将其打包,并且以更优雅以及更产品化的方式对外提供服务和价值~







什么是数据中台?跟数据仓库、数据平台有什么区别?














03 构建数据中台前要想清楚的三个问题!







今天要和大家分享的是,当企业选择构建数据中台前,要提前想清楚的三个问题。





问题一:你是否真的需要数据中台







数据中台虽然很火,但是它并不是万能的,并不是说搭建了一个数据中台你们的问题就都能解决了,业务效果就能提升了。






可以考虑一下,你现在面临的问题和痛点,数据中台能解决吗?





问题二:你是否有专业的团队能够建设数据中台







数据中台不是简单地搭建一套开源的大数据框架、开发一些数据表就完成了,他要求团队从方法论、到平台化再到产品化都有一定的理解和积累。整体来讲,也就是需要你的团队有足够的专业度。





问题三:你能投入多少资源建设数据中台







投入的资源数量决定了数据中台的建设情况,你愿意投入多少人,花费多少钱,用多长时间来搞数据中台,能否一直坚持支持下去?






数据中台是一个大的工程,要相信,这可不是一个人随便花半个月就能搞定的。










总结







最近看到越来越多的文章来写数据中台了,大家的解释也越来越另辟蹊径。






不管中台到底是什么,我个人的观点还是要看它解决的是什么问题,和现在的平台有什么区别,做之前要注意什么。






本文没有详细的论证,只是个人经验的分享。







什么是数据中台?跟数据仓库、数据平台有什么区别?






划重点
推荐阅读
  • Hadoop入门与核心组件详解
    本文详细介绍了Hadoop的基础知识及其核心组件,包括HDFS、MapReduce和YARN。通过本文,读者可以全面了解Hadoop的生态系统及应用场景。 ... [详细]
  • 本文详细介绍了Python编程语言的学习路径,涵盖基础语法、常用组件、开发工具、数据库管理、Web服务开发、大数据分析、人工智能、爬虫开发及办公自动化等多个方向。通过系统化的学习计划,帮助初学者快速掌握Python的核心技能。 ... [详细]
  • Hadoop发行版本选择指南:技术解析与应用实践
    本文详细介绍了Hadoop的不同发行版本及其特点,帮助读者根据实际需求选择最合适的Hadoop版本。内容涵盖Apache Hadoop、Cloudera CDH等主流版本的特性及应用场景。 ... [详细]
  • 本文详细介绍如何使用 Apache Spark 执行基本任务,包括启动 Spark Shell、运行示例程序以及编写简单的 WordCount 程序。同时提供了参数配置的注意事项和优化建议。 ... [详细]
  • 深入解析Hadoop的核心组件与工作原理
    本文详细介绍了Hadoop的三大核心组件:分布式文件系统HDFS、资源管理器YARN和分布式计算框架MapReduce。通过分析这些组件的工作机制,帮助读者更好地理解Hadoop的架构及其在大数据处理中的应用。 ... [详细]
  • PySpark实战:高效使用DataFrame超越RDD
    本文深入探讨了PySpark中DataFrame的使用方法及其相对于传统RDD的优势,旨在帮助开发者更好地理解和利用这一强大工具。 ... [详细]
  • 本文详细介绍了如何配置Apache Flume与Spark Streaming,实现高效的数据传输。文中提供了两种集成方案,旨在帮助用户根据具体需求选择最合适的配置方法。 ... [详细]
  • ODBC介绍:开放式数据库连接详解
    本文详细介绍了ODBC(开放式数据库连接),这是一种允许应用程序访问多种数据库系统的标准API。自1992年由微软与Simba合作推出以来,ODBC已成为跨平台数据访问的重要标准。 ... [详细]
  • 深入解析:主流开源分布式文件系统综述
    本文详细探讨了几款主流的开源分布式文件系统,包括HDFS、MooseFS、Lustre、GlusterFS和CephFS,重点分析了它们的元数据管理和数据一致性机制,旨在为读者提供深入的技术见解。 ... [详细]
  • 本文探讨了如何在Hive(基于Hadoop)环境中编写类似SQL的语句,以去除字段中的空格。特别是在处理邮政编码等数据时,去除特定位置的空格是常见的需求。 ... [详细]
  • 深入解析:OpenShift Origin环境下的Kubernetes Spark Operator
    本文探讨了如何在OpenShift Origin平台上利用Kubernetes Spark Operator来管理和部署Apache Spark集群与应用。作为Radanalytics.io项目的一部分,这一开源工具为大数据处理提供了强大的支持。 ... [详细]
  • 尾花|花萼_相关性Correlations 皮尔逊相关系数(pearson)和斯皮尔曼等级相关系数(spearman)
    尾花|花萼_相关性Correlations 皮尔逊相关系数(pearson)和斯皮尔曼等级相关系数(spearman) ... [详细]
  • MapReduce原理是怎么剖析的
    这期内容当中小编将会给大家带来有关MapReduce原理是怎么剖析的,文章内容丰富且以专业的角度为大家分析和叙述,阅读完这篇文章希望大家可以有所收获。1 ... [详细]
  • 深入解析Spark核心架构与部署策略
    本文详细探讨了Spark的核心架构,包括其运行机制、任务调度和内存管理等方面,以及四种主要的部署模式:Standalone、Apache Mesos、Hadoop YARN和Kubernetes。通过本文,读者可以深入了解Spark的工作原理及其在不同环境下的部署方式。 ... [详细]
  • 58同城的Elasticsearch应用与平台构建实践
    本文由58同城高级架构师于伯伟分享,由陈树昌编辑整理,内容源自DataFunTalk。文章探讨了Elasticsearch作为分布式搜索和分析引擎的应用,特别是在58同城的实施案例,包括集群优化、典型应用实例及自动化平台建设等方面。 ... [详细]
author-avatar
SuperBaby蜜
这个家伙很懒,什么也没留下!
PHP1.CN | 中国最专业的PHP中文社区 | DevBox开发工具箱 | json解析格式化 |PHP资讯 | PHP教程 | 数据库技术 | 服务器技术 | 前端开发技术 | PHP框架 | 开发工具 | 在线工具
Copyright © 1998 - 2020 PHP1.CN. All Rights Reserved | 京公网安备 11010802041100号 | 京ICP备19059560号-4 | PHP1.CN 第一PHP社区 版权所有