热门标签 | HotTags
当前位置:  开发笔记 > 运维 > 正文

Hadoop1.2.1安装以及部署

实验目的:1熟悉hadoop集群以及hadoop起源历史。2了解hadoop使用范围以及所需基础知识。3安装hadoop1.x实验版本。实验设备以及所用软件:笔记本电脑、VMware、Centos6.3(3台虚拟机)实验过程:1、启动VMware-准备好三台虚拟机的安装,这里使用

实验目的: 1 熟悉hadoop集群以及hadoop起源历史。 2 了解hadoop使用范围以及所需基础知识。 3 安装hadoop 1.x 实验版本。 实验设备以及所用软件: 笔记本电脑、VMware、Centos6.3(3台虚拟机) 实验过程: 1、 启动VMware-准备好三台虚拟机的安装,这里使用

实验目的:

1 熟悉hadoop集群以及hadoop起源历史。

2 了解hadoop使用范围以及所需基础知识。

3 安装hadoop 1.x 实验版本。

实验设备以及所用软件:

笔记本电脑、VMware、Centos6.3(3台虚拟机)

实验过程:

1、 启动VMware-准备好三台虚拟机的安装,这里使用的是Centos6.3简易版的安装,三台机器分别命名为master,slave,slave1,开启gpm服务,启动三台虚拟机,使用ifconfig命令查得master,slave,slave1的ip地址分别为192.168.1.112,192.168.1.111,192.168.1.109。在root权限下使用chkconfigiptables off命令关闭防火墙。

2、 ssh 免密码登陆普通用户模式下,首先ssh ip地址测试三台机子能否互相通信,若不能通信则检查ip是否在同一个网段,cd命令返回根目录,三台都使用命令

ssh-keygen –t rsa,命令行ls –a,检查根目录下是否有.ssh这个目录,cd .ssh进入目录下,ls -a检查是否有id_rsa.pub和id_rsa。接下来,通过命令

scp ./id_rsa.pub hadoop@ip:/home/hadoop/.ssh/authorized_keys,鼠标命令将三台机子的公钥全部复制粘贴进authorized-keys,放到每台虚拟系统的.ssh目录下,然后通过ssh ip三台机子检测是否成功。注意:这里ssh ip成功的前提条件是用户名相同,不然使用ssh 用户名@ip才能成功,用户名相同也是这个实验成功的条件。

3.网上下载jdk1.8.0_05和hadoop1.2.1版本到master上,使用tar –xzvf jdk包或hadoop包,这是个漫长的等待过程,大家耐心等待。


4.接下来修改hadoop相关文件命令,在根目录时,cd hadoop1.2.1,cd conf,

vi hadoop-env.sh,修改jdk所在目录位置。


vi core-site.xml


vi mapred-site.xml


vi hdfs-site.xml


vi masters


vi slaves


5.把hadoop1.2.1以及jdk1.8.0_05发送到另外两台机器上(scp -r ./文件名 用户名@ip:/位置)



6.三台机器中修改hosts文件,vi /etc/hosts,把ip地址跟用户名写入文件,然后ping slave1,ping slave,ping master,检测hosts文件是否有错误。

进入hadoop1.2.1文件(cd hadoop1.2.1),执行bin/start-all.sh成功!!!





7.最后去jdk里面的jpm服务里面检测,成功!

推荐阅读
  • 本文介绍如何通过整合SparkSQL与Hive来构建高效的用户画像环境,提高数据处理速度和查询效率。 ... [详细]
  • Hadoop集群搭建:实现SSH无密码登录
    本文介绍了如何在CentOS 7 64位操作系统环境下配置Hadoop集群中的SSH无密码登录,包括环境准备、用户创建、密钥生成及配置等步骤。 ... [详细]
  • 本文探讨了使用Python实现监控信息收集的方法,涵盖从基础的日志记录到复杂的系统运维解决方案,旨在帮助开发者和运维人员提升工作效率。 ... [详细]
  • Docker安全策略与管理
    本文探讨了Docker的安全挑战、核心安全特性及其管理策略,旨在帮助读者深入理解Docker安全机制,并提供实用的安全管理建议。 ... [详细]
  • 本文介绍了SELinux的两种主要工作模式——强制模式和宽容模式,并提供了如何在CentOS 7中正确启用和配置SELinux的方法,以及在遇到登录问题时的解决策略。 ... [详细]
  • 龙蜥社区开发者访谈:技术生涯的三次蜕变 | 第3期
    龙蜥社区的开发者们通过自己的实践和经验,推动着开源技术的发展。本期「龙蜥开发者说」聚焦于一位资深开发者的三次技术转型,分享他在龙蜥社区的成长故事。 ... [详细]
  • 本文详细介绍了如何搭建一个高可用的MongoDB集群,包括环境准备、用户配置、目录创建、MongoDB安装、配置文件设置、集群组件部署等步骤。特别关注分片、读写分离及负载均衡的实现。 ... [详细]
  • 本文介绍了Linux操作系统的核心组成部分——内核及其版本分类,以及市面上常见的几种Linux发行版,旨在为初学者提供一个清晰的学习路径。 ... [详细]
  • 深入解析:存储技术的演变与发展
    本文探讨了从单机文件系统到分布式文件系统的存储技术发展过程,详细解释了各种存储模型及其特点。 ... [详细]
  • 如何处理PHP缺少扩展的问题
    本文将详细介绍如何解决PHP环境中缺少扩展的问题,包括检查当前环境、修改配置文件以及验证修改是否生效的具体步骤,帮助开发者更好地管理和使用PHP扩展。 ... [详细]
  • Kafka入门指南
    本文将详细介绍如何在CentOS 7上安装和配置Kafka,包括必要的环境准备、JDK和Zookeeper的配置步骤。 ... [详细]
  • CentOS7通过RealVNC实现多人使用服务器桌面
    背景:公司研发团队通过VNC登录到CentOS服务器的桌面实现软件开发工作为防止数据外泄,需要在RealVNC设置禁止传输文件、访问粘贴板等策略过程&# ... [详细]
  • Centos7 Tomcat9 安装笔记
    centos7,tom ... [详细]
  • 本文详细介绍了如何在 CentOS 7 及其衍生发行版(如 Red Hat, Oracle, Scientific Linux 7)上安装和完全卸载 GitLab。包括安装必要的依赖关系、配置防火墙、安装 GitLab 软件包以及常见问题的解决方法。 ... [详细]
  • 本文介绍了在 CentOS 7 系统中如何查看所有活动进程及其运行时间。通过使用 `netstat` 和 `ps` 命令,您可以轻松获取进程的详细信息,包括启动时间、用户、终端和命令等。 ... [详细]
author-avatar
瓜瓜哥哥
这个家伙很懒,什么也没留下!
PHP1.CN | 中国最专业的PHP中文社区 | DevBox开发工具箱 | json解析格式化 |PHP资讯 | PHP教程 | 数据库技术 | 服务器技术 | 前端开发技术 | PHP框架 | 开发工具 | 在线工具
Copyright © 1998 - 2020 PHP1.CN. All Rights Reserved | 京公网安备 11010802041100号 | 京ICP备19059560号-4 | PHP1.CN 第一PHP社区 版权所有