热门标签 | HotTags
当前位置:  开发笔记 > 编程语言 > 正文

hadoop的hdfs,下载文件

 1、首先启动hadoopstart-all.sh2、建立maven工程2.1编辑pom.xml文件1

 


1、首先启动hadoop

start-all.sh

2、建立maven工程


2.1 编辑pom.xml文件

1


3 4.0.0
4
5 com.js
6 ss
7 0.0.1-SNAPSHOT
8

jar
9
10 ss
11 http://maven.apache.org
12
13


14

UTF-8
15
16 3.1.1
17
18
19
20
21 junit
22 junit
23 3.8.1
24 test
25

26
27
28
29 jdk.tools
30 jdk.tools
31 1.8
32 system
33 ${JAVA_HOME}/lib/tools.jar
34

35
36
37
38
39 org.apache.hadoop
40 hadoop-hdfs
41 ${hadoop.version}
42

43
44
45 org.apache.hadoop
46 hadoop-client
47 ${hadoop.version}
48

49
50
51 org.apache.hadoop
52 hadoop-common
53 ${hadoop.version}
54

55
56
57

58
59

2.2 新建一个类文件

1 package com.js;
2
3 import java.io.FileOutputStream;
4 import java.io.IOException;
5 import java.net.URI;
6 import java.net.URISyntaxException;
7
8 import org.apache.hadoop.conf.Configuration;
9 import org.apache.hadoop.fs.FSDataInputStream;
10 import org.apache.hadoop.fs.FileSystem;
11 import org.apache.hadoop.fs.Path;
12 import org.apache.hadoop.io.IOUtils;
13
14 /**
15 * Hello world!
16 *
17 */
18 public class App
19 {
20 public static void main( String[] args ) throws IOException, InterruptedException, URISyntaxException {
21 System.out.println( "Hello World!" );
22 System.out.println("hello world");
23
24
25 Configuration cOnf= new Configuration();
26 // 设置hadoop的文件系统格式
27 conf.set("fs.defaultFS", "hdfs://localhost:9000");
28
29 FileSystem fs = FileSystem.get(conf);
30
31 Path src = new Path("/wordcount/input");
32 FSDataInputStream in = fs.open(src);
33
34 FileOutputStream os = new FileOutputStream("./out");
35 IOUtils.copyBytes(in, os, conf, true);
36
37 }
38 }

在当前目录下,会出现out文件


推荐阅读
  • Spring Security基础配置详解
    本文详细介绍了Spring Security的基础配置方法,包括如何搭建Maven多模块工程以及具体的安全配置步骤,帮助开发者更好地理解和应用这一强大的安全框架。 ... [详细]
  • 本文回顾了作者在求职阿里和腾讯实习生过程中,从最初的迷茫到最后成功获得Offer的心路历程。文中不仅分享了个人的面试经历,还提供了宝贵的面试准备建议和技巧。 ... [详细]
  • Python3爬虫入门:pyspider的基本使用[python爬虫入门]
    Python学习网有大量免费的Python入门教程,欢迎大家来学习。本文主要通过爬取去哪儿网的旅游攻略来给大家介绍pyspid ... [详细]
  • ASP.NET 进度条实现详解
    本文介绍了如何在ASP.NET中使用HTML和JavaScript创建一个动态更新的进度条,并通过Default.aspx页面进行展示。 ... [详细]
  • 本文探讨了如何利用RxJS库在AngularJS应用中实现对用户单击和拖动操作的精确区分,特别是在调整区域大小的场景下。 ... [详细]
  • 本文介绍了如何在 MapReduce 作业中使用 SequenceFileOutputFormat 生成 SequenceFile 文件,并详细解释了 SequenceFile 的结构和用途。 ... [详细]
  • Hadoop的文件操作位于包org.apache.hadoop.fs里面,能够进行新建、删除、修改等操作。比较重要的几个类:(1)Configurati ... [详细]
  • Python 数据可视化实战指南
    本文详细介绍如何使用 Python 进行数据可视化,涵盖从环境搭建到具体实例的全过程。 ... [详细]
  • Eclipse 开发环境配置指南:从下载到免安装配置
    Eclipse 是一个广泛使用的开源Java开发环境,掌握其正确的安装与配置方法对于初学者至关重要。本文将详细介绍如何下载、安装及配置Eclipse,确保您的开发环境搭建顺利。 ... [详细]
  • 探讨了在HTML表单中使用元素代替进行表单提交的方法。 ... [详细]
  • JavaScript 跨域解决方案详解
    本文详细介绍了JavaScript在不同域之间进行数据传输或通信的技术,包括使用JSONP、修改document.domain、利用window.name以及HTML5的postMessage方法等跨域解决方案。 ... [详细]
  • 探讨如何在映射文件中处理重复的属性字段,以避免数据操作时出现错误。 ... [详细]
  • 本文探讨了Node.js后端开发的基础知识,包括模块源码的使用方法、前后端源码的区别以及如何在命令行环境中编译Node.js源代码。 ... [详细]
  • H5技术实现经典游戏《贪吃蛇》
    本文将分享一个使用HTML5技术实现的经典小游戏——《贪吃蛇》。通过H5技术,我们将探讨如何构建这款游戏的两种主要玩法:积分闯关和无尽模式。 ... [详细]
  • 本文介绍了.hbs文件作为Ember.js项目中的视图层,类似于HTML文件的功能,并详细讲解了如何在Ember.js应用中集成Bootstrap框架及其相关组件的方法。 ... [详细]
author-avatar
虚伪小仔
这个家伙很懒,什么也没留下!
PHP1.CN | 中国最专业的PHP中文社区 | DevBox开发工具箱 | json解析格式化 |PHP资讯 | PHP教程 | 数据库技术 | 服务器技术 | 前端开发技术 | PHP框架 | 开发工具 | 在线工具
Copyright © 1998 - 2020 PHP1.CN. All Rights Reserved | 京公网安备 11010802041100号 | 京ICP备19059560号-4 | PHP1.CN 第一PHP社区 版权所有