一名大数据新手，如何成为大数据工程师？附上学习路线

这几年来大数据非常的热门&＃xff0c;到处都有大数据分析的演讲。 演讲内容通常是宣传各种大数据分析成功的案例。 但实际上大数据该怎么做呢&＃xff1f; 大部份的讨论似乎都仅止于怎么搜集大量的数据&＃xff0c; 然后用个工具&＃xff08;hadoop/spark&＃xff09;后就会马上变出商机和钱来。

 大数据技术最重要的核心在于如何设计可以高性能处理大量数据的程式 (highly scalable programs.)

目前大数据相关工作可以粗分几类。有资料系统串接者&＃xff0c; 设计大数据演算法实做的人&＃xff0c;以及管理大型丛集 (cluster) 的工程师。 很多人对大数据工程师的理解还停留在资料系统串接者的程度&＃xff0c; 以为只要将资料汇入某个神奇系统&＃xff0c;就能将自己想要的结果生出来。 但实际上数据量变得很大时&＃xff0c;我们往往需要自己客制化自己的资料系统&＃xff0c;并且撰写特殊的演算法处理之。 以台湾和美国业界而言&＃xff0c;第二种工程师是最稀少也需求量最高的。 这本书的目的就是由浅入深的介绍如何成为此类型的工程师。

不知道在学习大数据的读者们有没有想过&＃xff0c;超级电脑的发明是1960年代的事&＃xff0c; 为什么直到近年大数据才红起来&＃xff1f;任何科技及技术都有其历史脉络&＃xff0c; 学习一点相关历史会让自己在追逐新科技时更清楚自己要解决的问题的定位在哪边。

一、大数据是什么?

大数据&＃xff0c;big data&＃xff0c;《大数据》一书对大数据这么定义&＃xff0c;大数据是指不能用随机分析法(抽样调查)这样捷径&＃xff0c;而采用所有数据进行分析处理。

这句话至少传递两种信息&＃xff1a;

1、大数据是海量的数据

2、大数据处理无捷径&＃xff0c;对分析处理技术提出了更高的要求

二、大数据的处理流程

下图是数据处理流程&＃xff1a;

大数据是对海量数据进行存储、计算、统计、分析处理的一系列处理手段&＃xff0c;处理的数据量通常是TB级&＃xff0c;甚至是PB或EB级的数据&＃xff0c;这是传统数据处理手段所无法完成的&＃xff0c;其涉及的技术有分布式计算、高并发处理、高可用处理、集群、实时性计算等&＃xff0c;汇集了当前IT领域热门流行的IT技术。

大数据入门&＃xff0c;需要学习以下这些知识点&＃xff1a;

先附上一张自己总结的学习线路图

1、Java编程技术

Java编程技术是大数据学习的基础&＃xff0c;Java是一种强类型语言&＃xff0c;拥有极高的跨平台能力&＃xff0c;可以编写桌面应用程序、Web应用程序、分布式系统和嵌入式系统应用程序等&＃xff0c;是大数据工程师最喜欢的编程工具&＃xff0c;因此&＃xff0c;想学好大数据&＃xff0c;掌握Java基础是必不可少的。

2、Linux命令

对于大数据开发通常是在Linux环境下进行的&＃xff0c;相比Linux操作系统&＃xff0c;Windows操作系统是封闭的操作系统&＃xff0c;开源的大数据软件很受限制&＃xff0c;因此&＃xff0c;想从事大数据开发相关工作&＃xff0c;还需掌握Linux基础操作命令。

3、Hadoop

Hadoop是大数据开发的重要框架&＃xff0c;其核心是HDFS和MapReduce&＃xff0c;HDFS为海量的数据提供了存储&＃xff0c;MapReduce为海量的数据提供了计算&＃xff0c;因此&＃xff0c;需要重点掌握&＃xff0c;除此之外&＃xff0c;还需要掌握Hadoop集群、Hadoop集群管理、YARN以及Hadoop高级管理等相关技术与操作!

4、Hive

Hive是基于Hadoop的一个数据仓库工具&＃xff0c;可以将结构化的数据文件映射为一张数据库表&＃xff0c;并提供简单的sql查询功能&＃xff0c;可以将sql语句转换为MapReduce任务进行运行&＃xff0c;十分适合数据仓库的统计分析。对于Hive需掌握其安装、应用及高级操作等。

5、Avro与Protobuf

Avro与Protobuf均是数据序列化系统&＃xff0c;可以提供丰富的数据结构类型&＃xff0c;十分适合做数据存储&＃xff0c;还可进行不同语言之间相互通信的数据交换格式&＃xff0c;学习大数据&＃xff0c;需掌握其具体用法。

6、ZooKeeper

ZooKeeper是Hadoop和Hbase的重要组件&＃xff0c;是一个为分布式应用提供一致性服务的软件&＃xff0c;提供的功能包括&＃xff1a;配置维护、域名服务、分布式同步、组件服务等&＃xff0c;在大数据开发中要掌握ZooKeeper的常用命令及功能的实现方法。

7、HBase

HBase是一个分布式的、面向列的开源数据库&＃xff0c;它不同于一般的关系数据库&＃xff0c;更适合于非结构化数据存储的数据库&＃xff0c;是一个高可靠性、高性能、面向列、可伸缩的分布式存储系统&＃xff0c;大数据开发需掌握HBase基础知识、应用、架构以及高级用法等。

8、phoenix

phoenix是用Java编写的基于JDBC API操作HBase的开源SQL引擎&＃xff0c;其具有动态列、散列加载、查询服务器、追踪、事务、用户自定义函数、二级索引、命名空间映射、数据收集、行时间戳列、分页查询、跳跃查询、视图以及多租户的特性&＃xff0c;大数据开发需掌握其原理和使用方法。

9、Redis

Redis是一个key-value存储系统&＃xff0c;其出现很大程度补偿了memcached这类key/value存储的不足&＃xff0c;在部分场合可以对关系数据库起到很好的补充作用&＃xff0c;它提供了Java&＃xff0c;C/C&＃43;&＃43;&＃xff0c;C#&＃xff0c;PHP&＃xff0c;Javascript&＃xff0c;Perl&＃xff0c;Object-C&＃xff0c;Python&＃xff0c;Ruby&＃xff0c;Erlang等客户端&＃xff0c;使用很方便&＃xff0c;大数据开发需掌握Redis的安装、配置及相关使用方法。

10、Flume

Flume是一款高可用、高可靠、分布式的海量日志采集、聚合和传输的系统&＃xff0c;Flume支持在日志系统中定制各类数据发送方&＃xff0c;用于收集数据;同时&＃xff0c;Flume提供对数据进行简单处理&＃xff0c;并写到各种数据接受方(可定制)的能力。大数据开发需掌握其安装、配置以及相关使用方法。

11、SSM

SSM框架是由Spring、SpringMVC、MyBatis三个开源框架整合而成&＃xff0c;常作为数据源较简单的web项目的框架。大数据开发需分别掌握Spring、SpringMVC、MyBatis三种框架的同时&＃xff0c;再使用SSM进行整合操作。

12、Kafka

Kafka是一种高吞吐量的分布式发布订阅消息系统&＃xff0c;其在大数据开发应用上的目的是通过Hadoop的并行加载机制来统一线上和离线的消息处理&＃xff0c;也是为了通过集群来提供实时的消息。大数据开发需掌握Kafka架构原理及各组件的作用和使用方法及相关功能的实现。

13、Scala

Scala是一门多范式的编程语言&＃xff0c;大数据开发重要框架Spark是采用Scala语言设计的&＃xff0c;想要学好Spark框架&＃xff0c;拥有Scala基础是必不可少的&＃xff0c;因此&＃xff0c;大数据开发需掌握Scala编程基础知识!

14、Spark

Spark是专为大规模数据处理而设计的快速通用的计算引擎&＃xff0c;其提供了一个全面、统一的框架用于管理各种不同性质的数据集和数据源的大数据处理的需求&＃xff0c;大数据开发需掌握Spark基础、SparkJob、Spark RDD、spark job部署与资源分配、Spark shuffle、Spark内存管理、Spark广播变量、Spark SQL、Spark Streaming以及Spark ML等相关知识。

15、Azkaban

Azkaban是一个批量工作流任务调度器&＃xff0c;可用于在一个工作流内以一个特定的顺序运行一组工作和流程&＃xff0c;可以利用Azkaban来完成大数据的任务调度&＃xff0c;大数据开发需掌握Azkaban的相关配置及语法规则。

16、Python与数据分析

Python是面向对象的编程语言&＃xff0c;拥有丰富的库&＃xff0c;使用简单&＃xff0c;应用广泛&＃xff0c;在大数据领域也有所应用&＃xff0c;主要可用于数据采集、数据分析以及数据可视化等&＃xff0c;因此&＃xff0c;大数据开发需学习一定的Python知识。