关于大数据:他来了袋鼠云大数据基础平台EasyMR正式上线

7月28日，在袋鼠云2022产品发布会上，袋鼠云技术负责人思枢正式发表旗下产品「大数据根底平台EasyMR」公布。

EasyMR是袋鼠云自研的大数据根底平台，提供Hadoop、Hive、Spark、Trino、HBase、Kafka等组件，齐全兼容Apache开源生态；反对企业级平安管控，一键开启LDAP+Kerberos+Ranger认证权限体系；提供一站式运维治理平台，帮忙企业疾速构建大数据平台，升高运维老本。

联合袋鼠云在数字化畛域多年的寸积铢累，此次全新公布的大数据根底平台EasyMR紧跟开源生态的先进技术，不仅能够帮忙客户轻松应答海量数据的采集、存储、计算、剖析开掘和数据安全等利用场景，并且对于智能运维的部署、降级、扩缩容、监控等进行全方位反对，真正做到成为企业便捷、智能、高效的“数据底座”。

六大个性打造国产大数据根底平台

不同于十年前的离奇，当初大家曾经齐全习惯本人身处于“大数据时代”这件事件，所有人都可能深切地感触到大数据对于生存带来的各种扭转和便当，数据暴发的时代推动着每个集体、企业、行业，甚至是国家往前走。

以后国际形势风云变幻，中美双边关系的割裂，国家对于信创国产化的大力支持，给国内的大数据行业带来微小冲击的同时，也带来了全新时机。

数据根底平台作为所有的根底和底座，天然成为国产代替的重中之重。只有真正领有了自主可控的平台建设能力，能力逐渐建设基于本人的 IT 底层架构和规范，造成自有凋谢生态。

EasyMR就是这样一款自主研发、齐全可控的，致力于助力企业信息化智慧转型的“企业数据底座”。

上面通过形容EasyMR的次要个性，来具体说说，EasyMR是如何帮忙企业实现智能的？

● 界面化集群运维

Hadoop集群、大数据平台在日常运维中波及到的节点扩容缩容、组件进行启动、服务滚动重启、服务参数批改、版本升级与回滚等多种运维操作，通过逻辑化、流程化的产品界面展示，不便运维人员操作和监控，进步运维效率。

● 自动化部署

EasyMR通过规范化的步骤和参数约定制作出产品安装包，公布包中的Schema文件中配置了安装包中所有的服务，蕴含各服务的配置参数、健康检查参数，服务之间的依赖关系等。产品部署时可依据Schema中的相干配置实现一键全自动化部署。

● 仪表盘集群监控

通过集成开源的Promethus和Grafana，实现对集群、服务、节点的外围参数监控，并通过灵便形象的仪表盘进行数据展示。蕴含CPU占用率，RAM使用率、磁盘空间、IO读写速率等外围参数进行监控，实时把握集群、服务、节点的运行状态，升高运维故障率。同时，反对用户自建仪表盘及监控项，实现自定义监控项。

● 实时告警

反对实时监控集群中各组件服务的运行指标，如CPU、内存、磁盘、读写IO等，并反对短信、钉钉、邮件告警通道配置，集成多种第三方音讯插件。当集群服务出现异常时，可触发告警条件，零碎将及时告诉接管人。

● 强扩展性

通过自研的Easyagent Server形象出七大REST接口，装置、启动、进行、更新、配置批改、卸载、执行等与下层利用进行交互，可使agent类别和性能可轻松有限扩大。

● 平安稳固

数据安全、产品安全是大数据产品须要重点思考的问题。EasyMR在产品设计中过滤掉rm、drop等命令行，避免对数据库的误操作，通过更加平安的形式执行相干命令。同时提供服务的滚动重启、产品的断电重启，解决运维时服务不进行运行的场景并节俭运维工夫。

丰盛的大数据组件夯实数据基座

EasyMR反对Hadoop2.8.5、Hadoop3.2.1大数据集群搭建，反对丰盛的大数据组件，用户能够依据业务须要进行组件的抉择。

那么，EasyMR具体反对那些大数据组件呢？

● Yarn

版本反对：

· Yarn 反对Hadoop 2.8.5、3.2.1

次要性能为Hadoop的资源调度器，负责管理整个Hadoop集群的资源（CPU和内存）治理和调度。

● Hdfs

版本反对：

· Hdfs 反对Hadoop 2.8.5、3.2.1

Hdfs即Hadoop 分布式文件系统，是Hadoop的三大根底组件之一，次要是解决大数据场景下数据的增、删、改、查、文件切片等性能。

● Flink

版本反对：

· Flink 1.12

面向数据流解决和批量数据处理的可分布式的开源计算框架。

● Spark

版本反对：

· Spark 2.4.8

基于内存的新一代分布式开源大数据框架，反对离线，实时计算，也反对 SQL 语法以及机器学习的解决。

EasyMR对开源组件的SQL的DDL能力进行了加强，反对Add Column语法。

● Hive

版本反对：

· Hive 2.3.8

· Hive 3.1.2

基于Hadoop的一套离线数据处理系统，在HDFS之上提供了结构化的表数据的治理能力，提供类 SQL 的查问语法进行数据分析解决。

● Trino

版本反对：

· Trino 0.359

分布式SQL查问引擎， 用来专门进行高速、实时的数据分析。

EasyMR对Trino的Connector进行了加强，反对Connector的动静加载；对社区的Connector进行了扩大，反对星环Inceptor插件。

● Hbase

版本反对：

· Hbase 1.3.5

· Hbase 2.3.4

一款高可靠性、高性能、面向列、可伸缩、实时读写的分布式数据库。

● Zookeeper

版本反对：

· Zookeeper 3.6.2

分布式应用程序协调服务，分布式应用程序可基于它实现同步服务，配置保护和命名服务等，为分布式集群提供一种牢靠、可扩大、分布式、可配置的协调机制来对立零碎的状态。

一起进行一次装置部署吧

其中，简洁、易上手也是EasyMR的一大劣势。EasyMR既心愿帮忙企业实现多源数据的高效集成，全量数据的高效剖析，同时也心愿可能升高平台的应用门槛，不会让上手难度成为影响企业数字化转型过程的一道壁垒。

所以，和咱们一起进行一次大数据产品的装置部署吧！

创立集群

EasyMR反对多集群的对立治理。

基于物理机/虚拟机进行主机集群创立。

「增加主机」，通过账号接入、命令行接入的形式进行主机节点的增加

上传组件安装包

抉择平台已有的组件安装包进行装置部署，或者通过本地上传、网络上传的形式上传本人的组件安装包。

一键疾速自动化部署

EasyMR反对单个产品包的手动部署和多个产品包的主动部署两种部署形式。

主动部署通过上传产品线定义组件部署流程，平台解析筛选相干组件，依据定义的主机角色实现主动资源主动编排，平台依据依赖关系实现组件的程序部署，大大节俭了运维一一部署、资源配置的工夫。

产品装置过程中，咱们能够实时看到服务部署进度、查看部署日志，服务部署状况高深莫测。

7*24小时实时监控告警

EasyMR通过集成开源的promethus和grafana，实现对集群、服务、节点的外围参数监控，并通过灵便形象的仪表盘进行数据展示。蕴含CPU占用率，RAM使用率、磁盘空间、I/O读写速率等外围参数进行监控，实时把握集群、服务、节点的运行状态，升高运维故障率。同时，反对用户自建仪表盘及监控项，实现自定义监控项。

设置告警规定

平台提供 “短信通道、邮件通道、钉钉通道、企业微信通道、自定义通道” 5种通道配置，用户依据须要抉择适合通道并填写通道配置信息、音讯模板、地址等实现通道配置。

写在最初

没错，EasyMR就是这样一款好用、易用、高效的大数据根底工具，笼罩企业服务监控运维、组件的降级与回滚、离线数据分析、流式数据处理等多种利用场景。

将来EasyMR将保持自主翻新，一直进化，将积攒的大数据实践经验复制到更多的企业。

袋鼠云开源框架钉钉技术交换qun（30537511），欢送对大数据开源我的项目有趣味的同学退出交换最新技术信息，开源我的项目库地址：https://github.com/DTStack/Taier