热门标签 | HotTags
当前位置:  开发笔记 > 编程语言 > 正文

Hive1.1.0cdh5.7.0编译及部署

1.环境准备1)虚拟机为VM102)Linux系统为centos6.53)Hadoop为hadoop-2.6.0-cdh5.7.04)JDK为jdk-7u80-linux-x64.

1.环境准备

1)虚拟机为VM10

2)Linux系统为centos6.5

3)Hadoop为hadoop-2.6.0-cdh5.7.0

4)JDK为jdk-7u80-linux-x64.tar.gz

5)Maven为apache-maven-3.3.9-bin.zip

6)MySQL为mysql-5.6.23-linux-glibc2.5-x86_64.tar.gz

【以上环境必须提前装备好】

mysql已经部署在用户mysqladmin下,家目录:/usr/local/mysql,用户名root,密码123456

详细步骤见之前文章《MySQL部署》

2.Hive-1.1.0-cdh5.7.0编译

1)下载

下载/hive-1.1.0-cdh5.7.0-src.tar.gz

下载地址:http://archive.cloudera.com/cdh5/cdh/5/hive-1.1.0-cdh5.7.0-src.tar.gz

2)上传(rz)

上传hive-1.1.0-cdh5.7.0-src.tar.gz至/home/hadoop/source

3)解压

[hadoop@hadoop001 source]$ tar -zxvf hadoop-2.6.0-cdh5.7.0-src.tar.gz

解压后注意观察解压后文件夹的用户、用户组对不对,不对的话chown -R XXX:XXX dir一下

4)编译

[hadoop@hadoop001 ~]$ cd source/hive-1.1.0-cdh5.7.0

[hadoop@hadoop001 hive-1.1.0-cdh5.7.0]$ pwd

/home/hadoop/source/hive-1.1.0-cdh5.7.0

[hadoop@hadoop001 hive-1.1.0-cdh5.7.0]$ mvn clean package -DskipTests -Phadoop-2 -Pdist

《Hive-1.1.0-cdh5.7.0编译及部署》

3.hive部署

1)解压编译好的hive安装包

将编译好的apache-hive-1.1.0-cdh5.7.0-bin.tar.gz移至/home/hadoop/software

【也可以直接下载hive安装包,下载链接:http://archive.cloudera.com/cdh5/cdh/5/hive-1.1.0-cdh5.7.0.tar.gz】

[hadoop@hadoop001 software]$  tar -zxvf apache-hive-1.1.0-cdh5.7.0-bin.tar.gz -C ~/app/

2)配置环境变量

[hadoop@hadoop001 ~]$ vi .bash_profile

# .bash_profile

# Get the aliases and functions

if [ -f ~/.bashrc ]; then

        . ~/.bashrc

fi

# User specific environment and startup programs

PATH=$PATH:$HOME/bin

export PATH

export JAVA_HOME=/usr/java/jdk1.7.0_80

export MVN_HOME=/home/hadoop/app/apache-maven-3.3.9

export FINDBUGS_HOME=/home/hadoop/app/findbugs-1.3.9

export PROTOC_HOME=/usr/local/protobuf

export HADOOP_HOME=/home/hadoop/app/hadoop-2.6.0

export HIVE_HOME=/home/hadoop/app/hive-1.1.0-cdh5.7.0

export PATH=$HIVE_HOME/bin:$HADOOP_HOME/bin:$PROTOC_HOME/bin:$FINDBUGS_HOME/bin:$MVN_HOME/bin:$JAVA_HOME/bin:$PATH

[hadoop@hadoop001 ~]$ source .bash_profile

3)修改配置文件

[hadoop@hadoop001 ~]$ cd /home/hadoop/app/hive-1.1.0-cdh5.7.0/conf

[hadoop@hadoop001 conf]$ cp hive-env.sh.template hive-env.sh

[hadoop@hadoop001 conf]$ vi hive-env.sh

HADOOP_HOME=/home/hadoop/app/hadoop-2.6.0

[hadoop@hadoop001 conf]$ vi hive-site.xml

《Hive-1.1.0-cdh5.7.0编译及部署》

4)拷贝驱动:

cp mysql-connector-java-5.1.27.jar $HIVE_HOME/lib

驱动下载地址:http://search.maven.org

搜索mysql-connector-java

选择5.1.27版本下载

《Hive-1.1.0-cdh5.7.0编译及部署》

4.启动hdfs和mysql

[hadoop@hadoop001 ~]$ cd $HADOOP_HOME/sbin

[hadoop@hadoop001 sbin]$ ./start-dfs.sh

[hadoop@hadoop001 ~]$ jps

4066 DataNode

5510 Jps

4201 SecondaryNameNode

3976 NameNode

[root@hadoop001 ~]# su – mysqladmin

[mysqladmin@hadoop001 ~]$ service mysql start

Starting MySQL………….                                [  OK  ]

5.启动hive

[hadoop@hadoop001 ~]$ cd /home/hadoop/app/hive-1.1.0-cdh5.7.0/bin

[hadoop@hadoop001 bin]$ ./hive

《Hive-1.1.0-cdh5.7.0编译及部署》

hive> show tables;

OK

Time taken: 0.171 seconds

配置文件里的数据库ruozedata_basic03在mysql里可以看到

mysql> show databases;

《Hive-1.1.0-cdh5.7.0编译及部署》


推荐阅读
  • 关于hadoop及相关模块的安装,自己下载模块安装的话较为麻烦,有配置、版本对应的些许问题,使用cloudera集成好的平台也不错 ... [详细]
  • 导读:今天编程笔记来给各位分享关于php动态扩展怎么加载的相关内容,如果能碰巧解决你现在面临的问题,别忘了关注本站,现在开始吧!本文目录一览: ... [详细]
  • Linux提权之suid篇
    Linux提权之suid篇不知攻,焉知防一个在安服路上摸索的大三生,记录平时学习笔记suid前言:1.只有可以执行的二进制程序文件才 ... [详细]
  • 各个组件confspark-env.sh配置spark的环境变量confspark-default.conf配置spark应用默认的配置项和spark-env.sh有重合之处,可在 ... [详细]
  • Ubuntu16.0464位安装armlinuxgcc交叉编译器以及samba服务器
    交叉编译器是嵌入式开发的必要工具,但是由于目前大多数人使用64位ubuntu,在照着很多教程做的时候,就会失败,失败原因是64位ubuntu需要额外安装32位的兼容包。以arm-l ... [详细]
  • Lunix历史及如何学习
    1.Lunix是什么1.1Lunix是操作系统还是应用程序Lunix是一套操作系统,它提供了一个完整的操作系统当中最底层的硬件控制与资源管理的完整架构, ... [详细]
  • Mysql安装和初步使用
    2019独角兽企业重金招聘Python工程师标准一、安装1、下载及安装:官网:https:downloads.mysql.comarchivesc ... [详细]
  • 前言可能你并不太了解msys2,但是作为一个程序员,你一定知道mingw,而msys2就集成了mingw,同时msys2还有一些其他的特性,例如包管理器等。msys2可以在wind ... [详细]
  • 不同方式实现集群的可行性 && 部分不建议踩的坑
    路标1.Systemhasnotbeenbootedwithsystemdasinitsystem(PID1).Can’toperate.2.CannotconnecttotheD ... [详细]
  • 关键词:LinuxJDKJRE解决JRE中文乱码解决FireFox不支持appletl 安装JDK1、  安装jdkroot用户进入jdk安装文件所在目录,键入chmoda+xjd ... [详细]
  • 工作以来接触到的技术流
    2019独角兽企业重金招聘Python工程师标准下面是工作以来接触到的技术平台,以及技术方案。部分在项目中深入过,部分仅选型、实践过。不断补充中. ... [详细]
  • 一、Hadoop来历Hadoop的思想来源于Google在做搜索引擎的时候出现一个很大的问题就是这么多网页我如何才能以最快的速度来搜索到,由于这个问题Google发明 ... [详细]
  • 近年来,大数据成为互联网世界的新宠儿,被列入阿里巴巴、谷歌等公司的战略规划中,也在政府报告中频繁提及。据《大数据人才报告》显示,目前全国大数据人才仅46万,未来3-5年将出现高达150万的人才缺口。根据领英报告,数据剖析人才供应指数最低,且跳槽速度最快。中国商业结合会数据剖析专业委员会统计显示,未来中国基础性数据剖析人才缺口将高达1400万。目前BAT企业中,60%以上的招聘职位都是针对大数据人才的。 ... [详细]
  • 一次上线事故,30岁+的程序员踩坑经验之谈
    本文主要介绍了一位30岁+的程序员在一次上线事故中踩坑的经验之谈。文章提到了在双十一活动期间,作为一个在线医疗项目,他们进行了优惠折扣活动的升级改造。然而,在上线前的最后一天,由于大量数据请求,导致部分接口出现问题。作者通过部署两台opentsdb来解决问题,但读数据的opentsdb仍然经常假死。作者只能查询最近24小时的数据。这次事故给他带来了很多教训和经验。 ... [详细]
  •     这里使用自己编译的hadoop-2.7.0版本部署在windows上,记得几年前,部署hadoop需要借助于cygwin,还需要开启ssh服务,最近发现,原来不需要借助cy ... [详细]
author-avatar
kafei
这个家伙很懒,什么也没留下!
PHP1.CN | 中国最专业的PHP中文社区 | DevBox开发工具箱 | json解析格式化 |PHP资讯 | PHP教程 | 数据库技术 | 服务器技术 | 前端开发技术 | PHP框架 | 开发工具 | 在线工具
Copyright © 1998 - 2020 PHP1.CN. All Rights Reserved | 京公网安备 11010802041100号 | 京ICP备19059560号-4 | PHP1.CN 第一PHP社区 版权所有