热门标签 | HotTags
当前位置:  开发笔记 > 编程语言 > 正文

Sqoop2如何安装配置

这篇文章主要介绍了Sqoop2如何安装配置,具有一定借鉴价值,感兴趣的朋友可以参考下,希望大家阅读完这篇文章之后大有收获,下面让小编带着大家

这篇文章主要介绍了Sqoop2如何安装配置,具有一定借鉴价值,感兴趣的朋友可以参考下,希望大家阅读完这篇文章之后大有收获,下面让小编带着大家一起了解一下。

一、安装hadoop

二、安装sqoop2

1.选择对应的sqoop2

[hadoop@hftclclw0001 ~]$ pwd
/home/hadoop

[hadoop@hftclclw0001 ~]$ wget http://apache.mirrors.tds.net/sqoop/1.99.6/sqoop-1.99.6-bin-hadoop200.tar.gz

[hadoop@hftclclw0001 ~]$ tar -zxvf sqoop-1.99.6-bin-hadoop200.tar.gz

[hadoop@hftclclw0001 ~]$ cd sqoop-1.99.6-bin-hadoop200/server/conf/
[hadoop@hftclclw0001 conf]$ pwd
/home/hadoop/sqoop-1.99.6-bin-hadoop200/server/conf

[hadoop@hftclclw0001 conf]$ ls -al
total 220
drwx------  2 hadoop root   4096 Oct 19 08:15 .
drwx------ 10 hadoop root   4096 Oct 19 08:15 ..
-rw-------  1 hadoop root  10636 Apr 29  2013 catalina.policy
-rw-------  1 hadoop root   4590 Apr 29 02:41 catalina.properties
-rw-------  1 hadoop root   1395 Apr 29  2013 context.xml
-rw-------  1 hadoop root   3290 Apr 29  2013 logging.properties
-rw-------  1 hadoop root   6528 Apr 29 02:41 server.xml
-rw-------  1 hadoop root   1586 Apr 29 02:41 sqoop_bootstrap.properties
-rw-------  1 hadoop root   7483 Apr 29 02:41 sqoop.properties
-rw-------  1 hadoop root   1530 Apr 29  2013 tomcat-users.xml
-rw-------  1 hadoop root 163769 Apr 29  2013 web.xml

修改catalina.properties.将hadoop的jar包依赖进来。当然,如果还需要hive或是hbase,对应的jar包也要加入

[hadoop@hftclclw0001 conf]$ vi catalina.properties
common.loader=${catalina.base}/lib,${catalina.base}/lib/*.jar,${catalina.home}/lib,${catalina.home}/lib/*.jar,${catalina.home}/../lib/*.jar,/home/hadoop/hadoop-2.2.0/share/hadoop/common/*.jar,/home/hadoop/hadoop-2.2.0/share/hadoop/common/lib/*.jar,/home/hadoop/hadoop-2.2.0/share/hadoop/yarn/*.jar,/home/hadoop/hadoop-2.2.0/share/hadoop/hdfs/*.jar,/home/hadoop/hadoop-2.2.0/share/hadoop/mapreduce/*.jar

[hadoop@hftclclw0001 conf]$ vi sqoop.properties
org.apache.sqoop.submission.engine.mapreduce.configuration.directory=/home/hadoop/hadoop-2.2.0/etc/hadoop

添加mysql driver  mysql-connector-java-5.1.25-bin.jar 注意版本

[root@hftclclw0001 lib]# pwd
/home/hadoop/sqoop-1.99.6-bin-hadoop200/server/lib

[root@hftclclw0001 lib]# ls -al
total 6284
drwx------  2 hadoop root    4096 Oct 19 08:33 .
drwx------ 10 hadoop root    4096 Oct 19 08:15 ..
-rw-------  1 hadoop root   15241 Apr 29  2013 annotations-api.jar
-rw-------  1 hadoop root   54567 Apr 29  2013 catalina-ant.jar
-rw-------  1 hadoop root  132134 Apr 29  2013 catalina-ha.jar
-rw-------  1 hadoop root 1244212 Apr 29  2013 catalina.jar
-rw-------  1 hadoop root  237615 Apr 29  2013 catalina-tribes.jar
-rw-------  1 hadoop root 1801636 Apr 29  2013 ecj-4.2.2.jar
-rw-------  1 hadoop root   33315 Apr 29  2013 el-api.jar
-rw-------  1 hadoop root  112556 Apr 29  2013 jasper-el.jar
-rw-------  1 hadoop root  527739 Apr 29  2013 jasper.jar
-rw-------  1 hadoop root   76691 Apr 29  2013 jsp-api.jar
-rw-------  1 hadoop root  848401 Oct 19 08:33 mysql-connector-java-5.1.25-bin.jar
-rw-------  1 hadoop root   88575 Apr 29  2013 servlet-api.jar
-rw-------  1 hadoop root    8821 Apr 29 02:41 sqoop-tomcat-1.99.6.jar
-rw-------  1 hadoop root  776946 Apr 29  2013 tomcat-coyote.jar
-rw-------  1 hadoop root  253635 Apr 29  2013 tomcat-dbcp.jar
-rw-------  1 hadoop root   70014 Apr 29  2013 tomcat-i18n-es.jar
-rw-------  1 hadoop root   51903 Apr 29  2013 tomcat-i18n-fr.jar
-rw-------  1 hadoop root   54511 Apr 29  2013 tomcat-i18n-ja.jar

2.启动

[root@hftclclw0001 bin]# pwd
/home/hadoop/sqoop-1.99.6-bin-hadoop200/bin

[root@hftclclw0001 bin]# ./sqoop2-server start
Sqoop home directory: /home/hadoop/sqoop-1.99.6-bin-hadoop200
Setting SQOOP_HTTP_PORT:     12000
Setting SQOOP_ADMIN_PORT:     12001
Using   CATALINA_OPTS:       
Adding to CATALINA_OPTS:    -Dsqoop.http.port=12000 -Dsqoop.admin.port=12001
Using CATALINA_BASE:   /home/hadoop/sqoop-1.99.6-bin-hadoop200/server
Using CATALINA_HOME:   /home/hadoop/sqoop-1.99.6-bin-hadoop200/server
Using CATALINA_TMPDIR: /home/hadoop/sqoop-1.99.6-bin-hadoop200/server/temp
Using JRE_HOME:        /usr
Using CLASSPATH:       /home/hadoop/sqoop-1.99.6-bin-hadoop200/server/bin/bootstrap.jar

3. UI 访问 {ip}:12000

http://hftclclw0001:12000/

4.客户端访问

[hadoop@hftclclw0001 sqoop-1.99.6-bin-hadoop200]$ ./bin/sqoop2-shell 
Sqoop home directory: /home/hadoop/sqoop-1.99.6-bin-hadoop200
Oct 19, 2015 8:39:47 AM java.util.prefs.FileSystemPreferences$1 run
INFO: Created user preferences directory.
Sqoop Shell: Type 'help' or '\h' for help.

sqoop:000> 
sqoop:000>

感谢你能够认真阅读完这篇文章,希望小编分享的“Sqoop2如何安装配置”这篇文章对大家有帮助,同时也希望大家多多支持编程笔记,关注编程笔记行业资讯频道,更多相关知识等着你来学习!


推荐阅读
  • Presto:高效即席查询引擎的深度解析与应用
    本文深入解析了Presto这一高效的即席查询引擎,详细探讨了其架构设计及其优缺点。Presto通过内存到内存的数据处理方式,显著提升了查询性能,相比传统的MapReduce查询,不仅减少了数据传输的延迟,还提高了查询的准确性和效率。然而,Presto在大规模数据处理和容错机制方面仍存在一定的局限性。本文还介绍了Presto在实际应用中的多种场景,展示了其在大数据分析领域的强大潜力。 ... [详细]
  • hadoop3.1.2 first programdefault wordcount (Mac)
    hadoop3.1.2安装完成后的第一个实操示例程 ... [详细]
  • 在Java Web服务开发中,Apache CXF 和 Axis2 是两个广泛使用的框架。CXF 由于其与 Spring 框架的无缝集成能力,以及更简便的部署方式,成为了许多开发者的首选。本文将详细介绍如何使用 CXF 框架进行 Web 服务的开发,包括环境搭建、服务发布和客户端调用等关键步骤,为开发者提供一个全面的实践指南。 ... [详细]
  • Hadoop 2.6 主要由 HDFS 和 YARN 两大部分组成,其中 YARN 包含了运行在 ResourceManager 的 JVM 中的组件以及在 NodeManager 中运行的部分。本文深入探讨了 Hadoop 2.6 日志文件的解析方法,并详细介绍了 MapReduce 日志管理的最佳实践,旨在帮助用户更好地理解和优化日志处理流程,提高系统运维效率。 ... [详细]
  • HBase在金融大数据迁移中的应用与挑战
    随着最后一台设备的下线,标志着超过10PB的HBase数据迁移项目顺利完成。目前,新的集群已在新机房稳定运行超过两个月,监控数据显示,新集群的查询响应时间显著降低,系统稳定性大幅提升。此外,数据消费的波动也变得更加平滑,整体性能得到了显著优化。 ... [详细]
  • Storm集成Kakfa
    一、整合说明Storm官方对Kafka的整合分为两个版本,官方说明文档分别如下:StormKafkaIntegratio ... [详细]
  • Hadoop——实验七:MapReduce编程实践
    文章目录一.实验目的二.实验内容三.实验步骤及结果分析 1.基于ubuntukylin14.04(7)版本,安装hadoop-eclipse-kepler-plugi ... [详细]
  • Hadoop的分布式架构改进与应用
    nsitionalENhttp:www.w3.orgTRxhtml1DTDxhtml1-transitional.dtd ... [详细]
  • javascript分页类支持页码格式
    前端时间因为项目需要,要对一个产品下所有的附属图片进行分页显示,没考虑ajax一张张请求,所以干脆一次性全部把图片out,然 ... [详细]
  • 本文介绍了如何使用Hive分析用户最长连续登录天数的方法。首先对数据进行排序,然后计算相邻日期之间的差值,接着按用户ID分组并累加连续登录天数,最后求出每个用户的最大连续登录天数。此外,还探讨了该方法在其他领域的应用,如股票市场中最大连续涨停天数的分析。 ... [详细]
  • 如何提升Python处理约1GB数据集时的运行效率?
    如何提升Python处理约1GB数据集时的运行效率?本文探讨了在后端开发中使用Python处理大规模数据集的优化方法。通过分析常见的性能瓶颈,介绍了多种提高数据处理速度的技术,包括使用高效的数据结构、并行计算、内存管理和代码优化策略。此外,文章还提供了在Ubuntu环境下配置和测试这些优化方案的具体步骤,适用于从事推荐系统等领域的开发者。 ... [详细]
  • hive和mysql的区别是什么[mysql教程]
    hive和mysql的区别有:1、查询语言不同,hive是hql语言,MySQL是sql语句;2、数据存储位置不同,hive把数据存储在hdfs上,MySQL把数据存储在自己的系统 ... [详细]
  • 【clienteclipse集群提交运行】:客户端eclipse集群提交mapreduce代码1.需求:在master:8088上,有客户 ... [详细]
  • 转载:https:blog.csdn.nethigh2011articledetails70155431清华大学镜像网:https:mirrors.tu ... [详细]
  • Springboot 集成spring cache缓存的解决方案_java
    这篇文章主要介绍了Springboot 集成spring cache缓存,使用缓存最关键的一点就是保证缓存与数据库的数据一致性,本文给大家介绍最常用的缓存操作模式,对Springb ... [详细]
author-avatar
凌子的夏天_952
这个家伙很懒,什么也没留下!
PHP1.CN | 中国最专业的PHP中文社区 | DevBox开发工具箱 | json解析格式化 |PHP资讯 | PHP教程 | 数据库技术 | 服务器技术 | 前端开发技术 | PHP框架 | 开发工具 | 在线工具
Copyright © 1998 - 2020 PHP1.CN. All Rights Reserved | 京公网安备 11010802041100号 | 京ICP备19059560号-4 | PHP1.CN 第一PHP社区 版权所有