Java程序员转大数据的学习路线（完整版）

如今随着计算机技术的全面普及，数字化的数据已经对人们的生活起到了息息相关的作用，大家也经常关注技术圈的发展，很多java工程师都在担心自己适合的技术发展道路该怎么走，现在也算有个方向了。

大数据的介绍

大数据（BIG DATA），指无法在一定时间范围内用常规软件工具进行捕捉、管理和处理的数据集合，是需要新处理模式才能具有更强的决策力、洞察发现力和流程优化能力的海量、高增长率和多样化的信息资产 ；

大数据本质也是数据，也有了以下新的特征：

• · 包容量（Volume）：数据的大小决定所考虑的数据的价值和潜在的信息；

• · 种类（Variety）：数据类型的多样性；

• · 速度（Velocity）：指获得数据的速度；

• · 可变性（Variability）：妨碍了处理和有效地管理数据的过程。

• · 真实性（Veracity）：数据的质量；

• · 复杂性（Complexity）：数据量巨大，来源多渠道；

• · 价值（value）：合理运用大数据，以低成本创造高价值等。

大数据是未来的发展方向，正在挑战我们的分析能力及对世界的认知方式，因此，我们与时俱进，迎接变化，并不断的成长!大数据学习群：868847735  一起讨论进步学习

以及出现了对应的工具：

Hadoop生态圈

• · HDFS =====> 解决存储问题

• · MapReduce =====> 解决计算问题

• · Yarn =====> 资源协调者

• · Zookeeper =====> 分布式应用程序协调服务

• · Flume =====> 日志收集系统

• · Hive =====> 基于Hadoop的数仓工具

• · HBase =====> 分布式、面向列的开源数据库

• · Sqoop =====> 数据传递工具

· Scala =====> 多范式编程语言、面向对象和函数式编程的特性

· Spark =====> 目前企业常用的批处理离线/实时计算引擎

· Flink =====> 目前最火的流处理框架、既支持流处理、也支持批处理

· Elasticsearch =====> 大数据分布式弹性搜索引擎

· Python语言：编写一些脚本时会用到。

· 离线/实时项目

以上就是大数据生态圈普遍用到的工具及解决对应的问题。

大数据的就业岗位

• · 大数据开发工程师

• · 大数据清洗开发工程师

• · 大数据仓库开发工程师

• · 大数据运维开发工程师

• · 大数据平台开发工程师

大数据是未来趋势

当然做Java开发也是不错的选择，不过就现在的行业发展情况来看大数据是个很大趋势，再加上Hadoop又是用Java开发的，而且Hadoop工程师的薪资普遍比单做Java开发要高3-4K以上，所以有很多做Java开发的都在转行做大数据。而且本来java工程师转大数据就有一个好的基础。

从上面可以了解到，在行业发展，技术的发展趋势是很重要的，通过趋势让自己拿到新的一轮门票，走上更高的发展那么我们才能成长的够好。

大数据的发展空间及大家最关心的收入问题

大多数java的工程师做个3-5年，薪资最多也就是个1--2.5万这个样子了。然后2.5万对于Java技术人员来说已经到了极限，当然Java架构师或者做底层的开发人员工资相对技术人员来说薪资较高一些。但是对于从事Hadoop这行业的技术人员来说2万多只能算一般般。以Hadoop开发工程师为例，Hadoop入门月薪已经达到了8K以上，工作1年月薪可达到1.2W以上，具有2-3年工作经验的hadoop人才年薪可以达到30万—50万。所以大数据是有很大的发展空间。 我认为这是一个很聪明的想法，横向发展，拖宽自己的知识广度，未来或许就能把握更多的机遇。

所以做Java开发，除了Java还可以学什么？

大数据开发之路可能就是一个不错的方向。

那么转型深耕大数据，需要哪些基础技能？

• Java：编程是大数据开发的基础，Java编程是必备技能！

• Python：是计算机程序设计语言，在大数据处理框架中得到支持应用。

• Scala：是一门多范式的编程语言，类似java的编程语言。

• Go：（又称Golang）语法接近C语言，但对于变量的声明有所不同。

• R语言：用于统计分析、绘图的语言和操作环境。

所以不管是初学者还是资深程序员，应该专注于<语言特性> ,而不是纠结哪类语言，只有这样才能达到融会贯通，拿起任何语言基本上都会用，并写出高质量的代码来。

对于技术层面来说，它们都是大数据的一个工具而已。其实只要有点基础的程序员转型大数据，都有天然的进阶优势，哪怕你没有学过任何一种编程语言零基础，也是可以学会的。

大数据市场需求怎样？

根据数联寻英《大数据人才报告》显示，目前中国的大数据人才仅46万。仅就人工智能领域而言，印度的从业人员在15万左右，美国有85万，而我国仅有5万人。随着科技的不断发展，在短短3-5年内，我国大数据人才的缺口将增至150万。