热门标签 | HotTags
当前位置:  开发笔记 > 后端 > 正文

通信行业用统一大数据平台破解“多租户”

通信,行业,用,统一,大,数据,

ZD至顶网CIO与应用频道 08月10日 评论分析(文/王聪彬):源于互联网的大数据技术,现如今已经深入到传统行业之中。各行各业大都在积极使用大数据推动数字化转型,基于每个行业的特点和信息化水平的不同,在大数据的应用上也各不相同,其中金融、电信、政府、交通行业领跑大数据应用。

某电信运营商的大数据应用在运营商中属于第一梯队,早在3、4年前就开始了大数据平台的建设。但随着业务带动数据量的增长,也产生了多租户的问题,所以在大数据平台二期建设上,其考虑通过统一架构来解决多租户问题。

运营商的多租户挑战

在大数据应用上可以分为三个阶段,第一,实验期,非核心业务的应用;第二,广泛使用期,针对一些大数据技术选择使用的场景;第三,引领发展期,实现创新应用。

电信行业算是最早使用大数据开展业务的行业之一,在大数据的应用上已经经历了第一阶段大多处在第二阶段,而且运营商目前也正进入新的转型期,大数据也将成为创新的驱动力。

而在大数据广泛使用期的运营商有两大驱动力需求:业务和技术。业务驱动力表现为实现端到端的业务模型,从用户画像提炼出目标客户产生价值等;技术驱动力表现为技术平台的建设满足不同的需求。在大数据应用第二阶段的后期,两种驱动力也会交织在一起,运营商甚至建立专门的大数据部门,来统筹和实现需求。

运营商在各省市都有不同的分支机构,某电信运营商作为第一批建设大数据的运营商,在3、4年前就开始大数据平台的建设,2年内获得了超过3000万的业务收益。但随着海量数据和数据应用种类的不断增长,大数据系统超负荷运行,对业务的稳定性和安全造成了潜在风险。

这也是运营商在大数据应用第二阶段最突出的问题“多租户”,多租户是一个比较广的概念,其中涵盖了资源共享、资源调度、可视化管理,多租户也基本代表了规模以上企业在技术驱动的大部分范畴。

多租户来自于使用和维护部门的直接需求,之前运营商在IT系统的建设上都是一个应用一套平台,这也造成了系统和系统之间的隔阂,产生大量的孤岛。在经过不断的架构优化后,逐渐形成了在统一的平台建立大数据应用,这就需要实现硬件甚至数据的共享。在应用都在分享资源时,如何调派这些资源,就产生了多租户的需求。

构建统一架构大数据平台

某电信运营商需要满足分批量数据处理的同时,引入实时分析应用,提高数据的高效利用率,挖掘潜在数据价值。

在Hadoop的初期并不具备实现条件,经过发展目前Hadoop已经可以很好的满足多租户需求,但中间需要大量定制化开发。而且单一系统也不能完成大数据的所有需求,这也使得需要一个全面的解决方案。

某电信运营商在大数据平台上更加关注实施风险和性价比,以Platform和GPFS为基础结合开源Hadoop2.0+Spark整体解决方案实现完全兼容满足多租户需求,即使在租户数量增多的情况下,也能保证企业租户享有安全稳定高效的应用性能。

最终选用Linux on Power主要是考虑硬件本身的性能、可靠性、安全性,之后再对比软件的性价比。相比X86服务器,Linux on Power在其中起到了软硬互相优化的作用,Power对于商业软件还是开源软件都有很好的兼容性,而且还可以针对性的进行调优。而且在同一平台上实现支持不同开源Hadoop版本,解决了集成问题,避免了推倒重来和数据迁移。

目前某电信运营商的大数据平台已经进入第二期建设,每天数据量峰值已经超过50TB,平台上的数据提供给业务部门、维护部门、创新中心三大部门使用。

大数据平台在支持运营之外,提供了共享的框架,节省了资源提高利用率,该省公司也因此成为中国移动在大数据应用上的标杆工程。而且通过隔离功能可以让不同应用运行在平台的同时,还可以实现数据的共享,提高性能的同时降低开发成本。

在未来大数据平台的规划上将更加突出业务特性,甚至有可能将其他省公司也接入到该省公司的大数据平台,在技术层面越来越基于云进行分析,提升整个平台的性能并进一步降低运维成本。

原文发布时间为:2016年8月10日
本文作者:王聪彬
本文来自云栖社区合作伙伴至顶网,了解相关信息可以关注至顶网。

推荐阅读
  • Docker的安全基准
    nsitionalENhttp:www.w3.orgTRxhtml1DTDxhtml1-transitional.dtd ... [详细]
  • 数据管理权威指南:《DAMA-DMBOK2 数据管理知识体系》
    本书提供了全面的数据管理职能、术语和最佳实践方法的标准行业解释,构建了数据管理的总体框架,为数据管理的发展奠定了坚实的理论基础。适合各类数据管理专业人士和相关领域的从业人员。 ... [详细]
  • VPX611是北京青翼科技推出的一款采用6U VPX架构的高性能数据存储板。该板卡搭载两片Xilinx Kintex-7系列FPGA作为主控单元,内置RAID控制器,支持多达8个mSATA盘,最大存储容量可达8TB,持续写入带宽高达3.2GB/s。 ... [详细]
  • 本文探讨了MariaDB在当前数据库市场中的地位和挑战,分析其可能面临的困境,并提出了对未来发展的几点看法。 ... [详细]
  • 脑机接口(BCI)技术正逐步将科幻变为现实,从帮助听障人士恢复听力到使瘫痪者重新站立,甚至可能将多年的学习过程压缩至瞬间。本文探讨了这一前沿技术的现状、挑战及其未来前景。 ... [详细]
  • HBase运维工具全解析
    本文深入探讨了HBase常用的运维工具,详细介绍了每种工具的功能、使用场景及操作示例。对于HBase的开发人员和运维工程师来说,这些工具是日常管理和故障排查的重要手段。 ... [详细]
  • 本文探讨了2012年4月期间,淘宝在技术架构上的关键数据和发展历程。涵盖了从早期PHP到Java的转型,以及在分布式计算、存储和网络流量管理方面的创新。 ... [详细]
  • 本文详细介绍了 Flink 和 YARN 的交互机制。YARN 是 Hadoop 生态系统中的资源管理组件,类似于 Spark on YARN 的配置方式。我们将基于官方文档,深入探讨如何在 YARN 上部署和运行 Flink 任务。 ... [详细]
  • 本文详细探讨了 org.apache.hadoop.ha.HAServiceTarget 类中的 checkFencingConfigured 方法,包括其功能、应用场景及代码示例。通过实际代码片段,帮助开发者更好地理解和使用该方法。 ... [详细]
  • 智能医疗,即通过先进的物联网技术和信息平台,实现患者、医护人员和医疗机构之间的高效互动。它不仅提升了医疗服务的便捷性和质量,还推动了整个医疗行业的现代化进程。 ... [详细]
  • 从码农到创业者:我的职业转型之路
    在观察了众多同行的职业发展后,我决定分享自己的故事。本文探讨了为什么大多数程序员难以成为架构师,并阐述了我从一家外企离职后投身创业的心路历程。 ... [详细]
  • 创邻科技成功举办Graph+X生态合作伙伴大会,30余家行业领军企业共聚杭州
    9月22日,创邻科技在杭州举办“Graph+X”生态合作伙伴大会,汇聚了超过30家行业头部企业的50多位企业家和技术领袖,共同探讨图技术的前沿应用与发展前景。 ... [详细]
  • 深入解析Hadoop的核心组件与工作原理
    本文详细介绍了Hadoop的三大核心组件:分布式文件系统HDFS、资源管理器YARN和分布式计算框架MapReduce。通过分析这些组件的工作机制,帮助读者更好地理解Hadoop的架构及其在大数据处理中的应用。 ... [详细]
  • 为何我选择了华为云GaussDB数据库
    本文分享了作者选择华为云GaussDB数据库的理由,详细介绍了GaussDB(for MySQL)的技术特性和优势,以及它在金融和互联网行业的应用场景。 ... [详细]
  • Ubuntu GamePack:专为游戏爱好者打造的Linux发行版
    随着Linux系统在游戏领域的应用越来越广泛,许多Linux用户开始寻求在自己的系统上畅玩游戏的方法。UALinux,一家致力于推广GNU/Linux使用的乌克兰公司,推出了基于Ubuntu 16.04的Ubuntu GamePack,旨在为Linux用户提供一个游戏友好型的操作环境。 ... [详细]
author-avatar
mobiledu2502871567
这个家伙很懒,什么也没留下!
PHP1.CN | 中国最专业的PHP中文社区 | DevBox开发工具箱 | json解析格式化 |PHP资讯 | PHP教程 | 数据库技术 | 服务器技术 | 前端开发技术 | PHP框架 | 开发工具 | 在线工具
Copyright © 1998 - 2020 PHP1.CN. All Rights Reserved | 京公网安备 11010802041100号 | 京ICP备19059560号-4 | PHP1.CN 第一PHP社区 版权所有