javamapreduce_通过简单的Word Count讲解MapReduce原理以及Java实现

MapReduce原理&＃xff1a;

MapReduce采用"分而治之"的思想&＃xff0c;把对大规模数据集的操作&＃xff0c;分发给一个主节点管理下的各个分节点共同完成&＃xff0c;然后通过整合各个节点的中间结果&＃xff0c;得到最终结果。简单地说&＃xff0c;MapReduce就是"任务的分解与结果的汇总"。

在Hadoop中&＃xff0c;用于执行MapReduce任务的机器角色有两个&＃xff1a;一个是JobTracker&＃xff1b;另一个是TaskTracker&＃xff0c;JobTracker是用于调度工作的&＃xff0c;TaskTracker是用于执行工作的。一个Hadoop集群中只有一台JobTracker。

在分布式计算中&＃xff0c;MapReduce框架负责处理了并行编程中分布式存储、工作调度、负载均衡、容错均衡、容错处理以及网络通信等复杂问题&＃xff0c;把处理过程高度抽象为两个函数&＃xff1a;map和reduce&＃xff0c;map负责把任务分解成多个任务&＃xff0c;reduce负责把分解后多任务处理的结果汇总起来。

需要注意的是&＃xff0c;用MapReduce来处理的数据集(或任务)必须具备这样的特点&＃xff1a;待处理的数据集可以分解成许多小的数据集&＃xff0c;而且每一个小数据集都可以完全并行地进行处理。

在Hadoop中&＃xff0c;每个MapReduce任务都被初始化为一个Job&＃xff0c;每个Job又可以分为两种阶段&＃xff1a;map阶段和reduce阶段。这两个阶段分别用两个函数表示&＃xff0c;即map函数和reduce函数。map函数接收一个形式的输入&＃xff0c;然后同样产生一个形式的中间输出&＃xff0c;Hadoop函数接收一个如形式的输入&＃xff0c;然后对这个value集合进行处理&＃xff0c;每个reduce产生0或1个输出&＃xff0c;reduce的输出也是形式的。

下面以一个最简单的例子说明&＃xff1a;

单词计数是最简单也是最能体现MapReduce思想的程序之一&＃xff0c;可以称为MapReduce版"Hello World"&＃xff0c;该程序的完整代码可以在Hadoop安装包的"src/examples"目录下找到。单词计数主要完成功能是&＃xff1a;统计一系列文本文件中每个单词出现的次数&＃xff0c;如下图所示。

package

org.apache.hadoop.examples;

import

java.io.IOException;

import

java.util.StringTokenizer;

import

org.apache.hadoop.conf.Configuration;

import

org.apache.hadoop.fs.Path;

import

org.apache.hadoop.io.IntWritable;

import

org.apache.hadoop.io.Text;

import

org.apache.hadoop.mapreduce.Job;

import

org.apache.hadoop.mapreduce.Mapper;

import

org.apache.hadoop.mapreduce.Reducer;

import

org.apache.hadoop.mapreduce.lib.input.FileInputFormat;

import

org.apache.hadoop.mapreduce.lib.output.FileOutputFormat;

import

org.apache.hadoop.util.GenericOptionsParser;

public class WordCount

{

public static class

TokenizerMapper

extends

Mapper{

private final

static IntWritable one &＃61; new IntWritable(1);

private Text word

&＃61; new Text();

public void

map(Object key, Text value, Context context)

throws

IOException, InterruptedException {

StringTokenizer

itr &＃61; new StringTokenizer(value.toString());

while

(itr.hasMoreTokens()) {

word.set(itr.nextToken());

context.write(word, one);

}

}

}

public static class

IntSumReducer

extends Reducer

{

private

IntWritable result &＃61; new IntWritable();

public void

reduce(Text key, Iterable values,Context context)

throws

IOException, InterruptedException {

int sum &＃61;

0;

for (IntWritable

val : values) {

sum &＃43;&＃61;

val.get();

}

result.set(sum);

context.write(key,

result);

}

}

public static void

main(String[] args) throws Exception {

Configuration conf &＃61;

new Configuration();

String[] otherArgs &＃61;

new GenericOptionsParser(conf,

args).getRemainingArgs();

if (otherArgs.length

!&＃61; 2) {

System.err.println("Usage: wordcount ");

System.exit(2);

}

Job job &＃61; new

Job(conf, "word count");

job.setJarByClass(WordCount.class);

job.setMapperClass(TokenizerMapper.class);

job.setCombinerClass(IntSumReducer.class);

job.setReducerClass(IntSumReducer.class);

job.setOutputKeyClass(Text.class);

job.setOutputValueClass(IntWritable.class);

FileInputFormat.addInputPath(job, new

Path(otherArgs[0]));

FileOutputFormat.setOutputPath(job, new

Path(otherArgs[1]));

System.exit(job.waitForCompletion(true) ? 0 :

1);

}

}

Map过程需要继承org.apache.hadoop.mapreduce包中Mapper类&＃xff0c;并重写其map方法。通过在map方法中添加两句把key值和value值输出到控制台的代码&＃xff0c;可以发现map方法中value值存储的是文本文件中的一行(以回车符为行结束标记)&＃xff0c;而key值为该行的首字母相对于文本文件的首地址的偏移量。然后StringTokenizer类将每一行拆分成为一个个的单词&＃xff0c;并将作为map方法的结果输出&＃xff0c;其余的工作都交有MapReduce框架处理。

Reduce过程需要继承org.apache.hadoop.mapreduce包中Reducer类&＃xff0c;并重写其reduce方法。Map过程输出中key为单个单词&＃xff0c;而values是对应单词的计数值所组成的列表&＃xff0c;Map的输出就是Reduce的输入&＃xff0c;所以reduce方法只要遍历values并求和&＃xff0c;即可得到某个单词的总次数。

在MapReduce中&＃xff0c;由Job对象负责管理和运行一个计算任务&＃xff0c;并通过Job的一些方法对任务的参数进行相关的设置。此处设置了使用TokenizerMapper完成Map过程中的处理和使用IntSumReducer完成Combine和Reduce过程中的处理。还设置了Map过程和Reduce过程的输出类型&＃xff1a;key的类型为Text&＃xff0c;value的类型为IntWritable。任务的输出和输入路径则由命令行参数指定&＃xff0c;并由FileInputFormat和FileOutputFormat分别设定。完成相应任务的参数设定后&＃xff0c;即可调用job.waitForCompletion()方法执行任务。

Hadoop提供了如下内容的数据类型&＃xff0c;这些数据类型都实现了WritableComparable接口&＃xff0c;以便用这些类型定义的数据可以被序列化进行网络传输和文件存储&＃xff0c;以及进行大小比较。

BooleanWritable&＃xff1a;标准布尔型数值

ByteWritable&＃xff1a;单字节数值

DoubleWritable&＃xff1a;双字节数

FloatWritable&＃xff1a;浮点数

IntWritable&＃xff1a;整型数

LongWritable&＃xff1a;长整型数

Text&＃xff1a;使用UTF8格式存储的文本

NullWritable&＃xff1a;当中的key或value为空时使用