热门标签 | HotTags
当前位置:  开发笔记 > 编程语言 > 正文

Hadoop1.2运行demo(MapReduce测试)

专业术语叫:运行一个mapreduce(分布式计算)Hadoop提供的jar包demo:hadoop-mapreduce

专业术语叫:运行一个mapreduce(分布式计算)

Hadoop提供的jar包demo:

hadoop-mapreduce-examples-2.4.1.jar提供的demo有:

pi计算圆周率、wordcount统计相同单词数量

${hadoop安装目录}/share/hadoop/mapreduce/hadoop-mapreduce-examples-2.4.1.jar


 计算圆周率(自带的jar包)

 启动一个job计算任务,将这个job分五成个map运行。 

[root@weekend110 mapreduce]# hadoop jar hadoop-mapreduce-examples-2.4.1.jar pi 5 5


06:30:39 INFO input.FileInputFormat: Total input paths to process : 5
06:30:39 INFO mapreduce.JobSubmitter: number of splits:5 ### 将任务分5个map执行
06:30:40 INFO mapreduce.JobSubmitter: Submitting tokens for job: job_local944404022_0001   ### job标识id

....................

Job Finished in 14.069 seconds   ### 耗时
Estimated value of Pi is 3.68000000000000000000    ### 结果 


统计相同单词数量DEMO

1. 创建一个text.txt文件

[root@weekend110 mapreduce]# cat text.txt 
world
hello tom
hello job
hello name
wang ming
wang liang
wang world

2. 将文件推入HDFS文件服务器

hadoop -fs -mkdir /workcount   ### 在HDFS创建workcount目录

hadoop -fs -mkdir /workcount/input   ### 在HDFS创建workcount/input输入目录

hadoop -fs -put test.txt /workcount/input   ### 将文件推到HDFS

说明:hdfs服务地址可简写,

简写前:hadoop -fs -mkdir hdfs://127.0.0.1:9000/workcount

简写后:hadoop -fs -mkdir /workcount

3. 运行-统计

 hadoop jar hadoop-mapreduce-examples-2.4.1.jar wordcount /wordcount/input /wordcount/output 

说明:计算HDFS服务/wordcount/input目录下的所有文件,将结果文件放到HDFS服务的/wordcount/output目录下

 4. 结果查看

下载结果文件part-r-00000打开后看到:

hello    3
job    1
liang    1
ming    1
name    1
tom    1
wang    3
world    2
~    1


推荐阅读
  • 本文介绍了如何在 MapReduce 作业中使用 SequenceFileOutputFormat 生成 SequenceFile 文件,并详细解释了 SequenceFile 的结构和用途。 ... [详细]
  • 在Java开发中,保护代码安全是一个重要的课题。由于Java字节码容易被反编译,因此使用代码混淆工具如ProGuard变得尤为重要。本文将详细介绍如何使用ProGuard进行代码混淆,以及其基本原理和常见问题。 ... [详细]
  • 本文介绍了如何使用Flume从Linux文件系统收集日志并存储到HDFS,然后通过MapReduce清洗数据,使用Hive进行数据分析,并最终通过Sqoop将结果导出到MySQL数据库。 ... [详细]
  • 如何高效启动大数据应用之旅?
    在前一篇文章中,我探讨了大数据的定义及其与数据挖掘的区别。本文将重点介绍如何高效启动大数据应用项目,涵盖关键步骤和最佳实践,帮助读者快速踏上大数据之旅。 ... [详细]
  • PHP中元素的计量单位是什么? ... [详细]
  • 在Hive中合理配置Map和Reduce任务的数量对于优化不同场景下的性能至关重要。本文探讨了如何控制Hive任务中的Map数量,分析了当输入数据超过128MB时是否会自动拆分,以及Map数量是否越多越好的问题。通过实际案例和实验数据,本文提供了具体的配置建议,帮助用户在不同场景下实现最佳性能。 ... [详细]
  • hadoop3.1.2 first programdefault wordcount (Mac)
    hadoop3.1.2安装完成后的第一个实操示例程 ... [详细]
  • Hadoop——实验七:MapReduce编程实践
    文章目录一.实验目的二.实验内容三.实验步骤及结果分析 1.基于ubuntukylin14.04(7)版本,安装hadoop-eclipse-kepler-plugi ... [详细]
  • Hadoop的分布式架构改进与应用
    nsitionalENhttp:www.w3.orgTRxhtml1DTDxhtml1-transitional.dtd ... [详细]
  • 阿里云大数据计算服务MaxCompute (原名 ODPS)
     MaxCompute是阿里EB级计算平台,经过十年磨砺,它成为阿里巴巴集团数据中台的计算核心和阿里云大数据的基础服务。去年MaxCompute做了哪些工作,这些工作背后的原因是什 ... [详细]
  • 本文整理了Java中org.apache.hadoop.mapreduce.lib.input.MultipleInputs.addInputPath()方法的一些代码 ... [详细]
  • 精选10款Python框架助力并行与分布式机器学习
    随着神经网络模型的不断深化和复杂化,训练这些模型变得愈发具有挑战性,不仅需要处理大量的权重,还必须克服内存限制等问题。本文将介绍10款优秀的Python框架,帮助开发者高效地实现分布式和并行化的深度学习模型训练。 ... [详细]
  • 本文详细记录了 MIT 6.824 课程中 MapReduce 实验的开发过程,包括环境搭建、实验步骤和具体实现方法。 ... [详细]
  • 2012年9月12日优酷土豆校园招聘笔试题目解析与备考指南
    2012年9月12日,优酷土豆校园招聘笔试题目解析与备考指南。在选择题部分,有一道题目涉及中国人的血型分布情况,具体为A型30%、B型20%、O型40%、AB型10%。若需确保在随机选取的样本中,至少有一人为B型血的概率不低于90%,则需要选取的最少人数是多少?该问题不仅考察了概率统计的基本知识,还要求考生具备一定的逻辑推理能力。 ... [详细]
  • HBase在金融大数据迁移中的应用与挑战
    随着最后一台设备的下线,标志着超过10PB的HBase数据迁移项目顺利完成。目前,新的集群已在新机房稳定运行超过两个月,监控数据显示,新集群的查询响应时间显著降低,系统稳定性大幅提升。此外,数据消费的波动也变得更加平滑,整体性能得到了显著优化。 ... [详细]
author-avatar
beauty360尜囡囡
这个家伙很懒,什么也没留下!
PHP1.CN | 中国最专业的PHP中文社区 | DevBox开发工具箱 | json解析格式化 |PHP资讯 | PHP教程 | 数据库技术 | 服务器技术 | 前端开发技术 | PHP框架 | 开发工具 | 在线工具
Copyright © 1998 - 2020 PHP1.CN. All Rights Reserved | 京公网安备 11010802041100号 | 京ICP备19059560号-4 | PHP1.CN 第一PHP社区 版权所有