Hadoop的发展史和版本

1、hadoop发展历程

1&＃xff09;、. 这一切是如何开始的—Web上庞大的数据!

2&＃xff09;、使用Nutch抓取Web数据

3&＃xff09;、 要保存Web上庞大的数据——HDFS应运而生

4&＃xff09;、如何使用这些庞大的数据?

5&＃xff09;、采用Java或任何的流/管道语言构建MapReduce框架用于编码并进行分析

6&＃xff09;、 如何获取Web日志&＃xff0c;点击流&＃xff0c;Apache日志&＃xff0c;服务器日志等非结构化数据——fuse,webdav, chukwa, flume, Scribe

7&＃xff09;、 Hiho和sqoop将数据加载到HDFS中&＃xff0c;关系型数据库也能够加入到Hadoop队伍中

8&＃xff09;、 MapReduce编程需要的高级接口——Pig, Hive, Jaql

9&＃xff09;、 具有先进的UI报表功能的BI工具- Intellicus

10&＃xff09;、 Map-Reduce处理过程使用的工作流工具及高级语言

11&＃xff09;、 监控、管理hadoop&＃xff0c;运行jobs/hive&＃xff0c;查看HDFS的高级视图—Hue, karmasphere, eclipse plugin, cacti, ganglia

12&＃xff09;、支持框架—Avro (进行序列化), Zookeeper (用于协同)

13&＃xff09;、 更多高级接口——Mahout, Elastic map Reduce

14&＃xff09;、 同样可以进行OLTP——Hbase

2、如何选择Hadoop版本

当前Hadoop版本比较混乱&＃xff0c;让很多用户不知所措。实际上&＃xff0c;当前Hadoop只有两个版本&＃xff1a;Hadoop 1.0和Hadoop 2.0&＃xff0c;其中&＃xff0c;Hadoop 1.0由一个分布式文件系统HDFS和一个离线计算框架MapReduce组成&＃xff0c;而Hadoop 2.0则包含一个支持NameNode横向扩展的HDFS&＃xff0c;一个资源管理系统YARN和一个运行在YARN上的离线计算框架MapReduce。相比于Hadoop 1.0&＃xff0c;Hadoop 2.0功能更加强大&＃xff0c;且具有更好的扩展性、性能&＃xff0c;并支持多种计算框架。

当我们决定是否采用某个软件用于开源环境时&＃xff0c;通常需要考虑以下几个因素&＃xff1a;

&＃xff08;1&＃xff09;是否为开源软件&＃xff0c;即是否免费。

&＃xff08;2&＃xff09; 是否有稳定版&＃xff0c;这个一般软件官方网站会给出说明。

&＃xff08;3&＃xff09; 是否经实践验证&＃xff0c;这个可通过检查是否有一些大点的公司已经在生产环境中使用知道。

&＃xff08;4&＃xff09; 是否有强大的社区支持&＃xff0c;当出现一个问题时&＃xff0c;能够通过社区、论坛等网络资源快速获取解决方法。

考虑到以上几个因素&＃xff0c;我们分析一下开源软件Hadoop。对于Hadoop 2.0而言&＃xff0c;目前尚不稳定&＃xff0c;无法用于生产环境&＃xff0c;因此&＃xff0c;如果当前你正准备使用Hadoop&＃xff0c;那么只能从Hadoop 1.0中选择一个版本&＃xff0c;而目截至目前&＃xff08;2016年1月13日&＃xff09;&＃xff0c;最新的稳定版分别是Hadoop 1.2.1因此&＃xff0c;你可以从中任选一个使用。

下载地址

3、Apache版本下载

&＃xff08;1&＃xff09; 各版本说明&＃xff1a;http://hadoop.apache.org/releases.html。

&＃xff08;2&＃xff09; 下载稳定版&＃xff1a;找到一个镜像&＃xff0c;下载stable文件夹下的版本。

&＃xff08;3&＃xff09; Hadoop最全版本&＃xff1a;http://svn.apache.org/repos/asf/hadoop/common/branches/&＃xff0c;可直接导到eclipse中。

4、CDH版本下载

&＃xff08;1&＃xff09; 版本含义介绍&＃xff1a;

https://ccp.cloudera.com/display/DOC/CDH&＃43;Version&＃43;and&＃43;Packaging&＃43;Information

&＃xff08;2&＃xff09;各版本特性查看&＃xff1a;

https://ccp.cloudera.com/display/DOC/CDH&＃43;Packaging&＃43;Information&＃43;for&＃43;Previous&＃43;Releases

&＃xff08;3&＃xff09;各版本下载&＃xff1a;

CDH3&＃xff1a;http://archive.cloudera.com/cdh/3/

CDH4&＃xff1a;http://archive.cloudera.com/cdh4/cdh/4/

注意&＃xff0c;Hadoop压缩包在这两个链接中的最上层目录中&＃xff0c;不在某个文件夹里

5、另附

常见的下载hadoop不同版本的地址:

http://archive.apache.org/dist/hadoop/core/

http://archive.cloudera.com/cdh/3/

http://archive.cloudera.com/cdh4/cdh/4/

另外附注一个 hadoop各商业发行版的比较:

http://www.xiaohui.org/archives/795.html

http://dongxicheng.org/mapreduce-nextgen/hadoop-2-0-terms-explained/

http://dongxicheng.org/mapreduce-nextgen/how-to-select-hadoop-versions/