热门标签 | HotTags
当前位置:  开发笔记 > 编程语言 > 正文

大数据Hadoop_大数据Hadoop第十一周——四台电脑的集群配置

篇首语:本文由编程笔记#小编为大家整理,主要介绍了大数据Hadoop第十一周——四台电脑的集群配置相关的知识,希望对你有一定的参考价值。大数

篇首语:本文由编程笔记#小编为大家整理,主要介绍了大数据Hadoop第十一周——四台电脑的集群配置相关的知识,希望对你有一定的参考价值。


大数据第十一周

1.物理集群的验证



  • 开启本组所有电脑(4台),拷贝虚拟机映像,打开。在开启虚拟机之前,设置虚拟机内存是4G,处理器是4,网络连接是桥接模式。

技术图片技术图片?

也可以在图形界面配

技术图片技术图片?



  • 把桥接网卡绑定到具体的物理网卡,不要使用自动绑定。

  • 设置完成后,启动寻虚拟机。

技术图片技术图片?

 

2.设置网络连接



  • 编辑网络配置文件:/etc/sysconfig/network-scripts/ifcfg-ens33。

技术图片技术图片?



  • IP地址设置如下:(其中50要改成你自己的ip)

IPADDR=172.21.12.79(左1)

IPADDR=172.21.12.80(左2)

IPADDR=172.21.12.81(右2)

IPADDR=172.21.12.82(右1)

PREFIX=24

GATEWAY=172.21.12.254

DNS1=172.16.3.8



  • 修改完成之后,输入systemctl restart network即可

技术图片技术图片?

3.设置hostname和域名解析

修改集群各个机器的名字和域名解析文件计算机名

sudo vi /etc/hostname

80 master

79 slave0

81 slave1

82 slave2

50 slave4

sudo vi /etc/hosts

172.21.12.80 master

172.21.12.79 slave0

172.21.12.81 slave1

172.21.12.82 slave2

172.21.12.50 slave4

技术图片技术图片?

4.关闭防火墙



  • 检查防火墙状态:sudo systemctl status firewalld.service

  • 关闭防火墙:sudo systemctl stop firewalld.service

  • Disable防火墙:sudo systemctl disable firewalld.service

  • 如果不执行Disable防火墙,下次启动时,防火墙还会启动。

  • 重启三个节点,重启后,分别用sudo systemctl status firewalld.service命令检查所有节点的防火墙状态,要求看到inactive(dead)提示。

5.设置ssh免密登录



  • 由于以前做过免密,所以会提示出错,看提示是否有修改错误的指令,如:删除~/.ssh文件后重做,命令:rm –r .ssh(ls –a查看隐藏文件)

  • 先ssh 要登录的虚拟机,然后exit。

  • 进入目录:cd .ssh/

  • 产生密码:ssh-keygen -t rsa(只需要输入一次)

  • 传送公钥:ssh-copy-id 要登陆的虚拟机名

  • 验证:ssh 要登陆的虚拟机名

  • 如果不需要密码就说明成功了。**如果在物理机集群上安装,需要安装时钟同步工具,保证每个节点的时钟相同。在虚拟机上安装不需要。**

  • 我们有三个节点,所以每个虚机需要3个免密登录。

  • 我们有三个节点,要传三个公钥,包括自己。

6.安装时钟同步



  • 将时区设置为上海:sudo timedatectl set-timezone Asia/Shanghai

  • 使用chrony,因为centos7已经内置chrony,所以只要配置就好。

  • 选择一个本地时钟服务器,对于时钟服务器修改cd /etc sudo vi chrony.conf,要允许其他节点进行连接,

  • 对于主节点:添加allow 172.21.12.0/24;

  • 对于其他节点:删除已有的四行配置,添加server master iburst

技术图片技术图片?



  • 时钟配置完成后检查,用命令:检查chronyc sources。除了主节点外,其它节点只会显示master。

  • 服务开启命令:systemctl enable chronyd.service  和 systemctl start chronyd.service


推荐阅读
  • 本文介绍了在rhel5.5操作系统下搭建网关+LAMP+postfix+dhcp的步骤和配置方法。通过配置dhcp自动分配ip、实现外网访问公司网站、内网收发邮件、内网上网以及SNAT转换等功能。详细介绍了安装dhcp和配置相关文件的步骤,并提供了相关的命令和配置示例。 ... [详细]
  • 图解redis的持久化存储机制RDB和AOF的原理和优缺点
    本文通过图解的方式介绍了redis的持久化存储机制RDB和AOF的原理和优缺点。RDB是将redis内存中的数据保存为快照文件,恢复速度较快但不支持拉链式快照。AOF是将操作日志保存到磁盘,实时存储数据但恢复速度较慢。文章详细分析了两种机制的优缺点,帮助读者更好地理解redis的持久化存储策略。 ... [详细]
  • Nginx使用AWStats日志分析的步骤及注意事项
    本文介绍了在Centos7操作系统上使用Nginx和AWStats进行日志分析的步骤和注意事项。通过AWStats可以统计网站的访问量、IP地址、操作系统、浏览器等信息,并提供精确到每月、每日、每小时的数据。在部署AWStats之前需要确认服务器上已经安装了Perl环境,并进行DNS解析。 ... [详细]
  • 搭建Windows Server 2012 R2 IIS8.5+PHP(FastCGI)+MySQL环境的详细步骤
    本文详细介绍了搭建Windows Server 2012 R2 IIS8.5+PHP(FastCGI)+MySQL环境的步骤,包括环境说明、相关软件下载的地址以及所需的插件下载地址。 ... [详细]
  • Centos7.6安装Gitlab教程及注意事项
    本文介绍了在Centos7.6系统下安装Gitlab的详细教程,并提供了一些注意事项。教程包括查看系统版本、安装必要的软件包、配置防火墙等步骤。同时,还强调了使用阿里云服务器时的特殊配置需求,以及建议至少4GB的可用RAM来运行GitLab。 ... [详细]
  • 本文介绍了Web学习历程记录中关于Tomcat的基本概念和配置。首先解释了Web静态Web资源和动态Web资源的概念,以及C/S架构和B/S架构的区别。然后介绍了常见的Web服务器,包括Weblogic、WebSphere和Tomcat。接着详细讲解了Tomcat的虚拟主机、web应用和虚拟路径映射的概念和配置过程。最后简要介绍了http协议的作用。本文内容详实,适合初学者了解Tomcat的基础知识。 ... [详细]
  • 本文介绍了计算机网络的定义和通信流程,包括客户端编译文件、二进制转换、三层路由设备等。同时,还介绍了计算机网络中常用的关键词,如MAC地址和IP地址。 ... [详细]
  • 本文介绍了在mac环境下使用nginx配置nodejs代理服务器的步骤,包括安装nginx、创建目录和文件、配置代理的域名和日志记录等。 ... [详细]
  • 31.项目部署
    目录1一些概念1.1项目部署1.2WSGI1.3uWSGI1.4Nginx2安装环境与迁移项目2.1项目内容2.2项目配置2.2.1DEBUG2.2.2STAT ... [详细]
  • LVS实现负载均衡的原理LVS负载均衡负载均衡集群是LoadBalance集群。是一种将网络上的访问流量分布于各个节点,以降低服务器压力,更好的向客户端 ... [详细]
  • 本文介绍了5个基本Linux命令行工具的现代化替代品,包括du、top和ncdu。这些替代品在功能上进行了改进,提高了可用性,并且适用于现代化系统。其中,ncdu是du的替代品,它提供了与du类似的结果,但在一个基于curses的交互式界面中,重点关注占用磁盘空间较多的目录。 ... [详细]
  • Redis的默认端口、数据库使用和多端口配置
    本文介绍了Redis的默认端口、数据库使用和多端口配置的方法。通过选择不同的数据库和使用flushdb命令可以实现对不同数据库的访问和清除数据。同时,本文还介绍了在同一台机器上启用多个Redis实例的方法,并讨论了配置认证密码的步骤和注意事项。 ... [详细]
  • 概述H.323是由ITU制定的通信控制协议,用于在分组交换网中提供多媒体业务。呼叫控制是其中的重要组成部分,它可用来建立点到点的媒体会话和多点间媒体会议 ... [详细]
  • POCOCLibraies属于功能广泛、轻量级别的开源框架库,它拥有媲美Boost库的功能以及较小的体积广泛应用在物联网平台、工业自动化等领域。POCOCLibrai ... [详细]
  • 服务器系统更新要多久,系统时间更新服务器是多少,
    系统时间更新服务器是多少,时间器(timeserver)是NTP的一种服务通过它可以使中的机器维持时间同步。目前系统更新Internet时一般都是从以下5个时间服务器 ... [详细]
author-avatar
wqgysxy
万企共赢商学院,国内实战网络营销网校。聚集国内顶级营销大师,横跨300个行业经验,超过100000个学员见证。官网:www.wanqigongying.com ,电话18688893947(以后换成400电话)
PHP1.CN | 中国最专业的PHP中文社区 | DevBox开发工具箱 | json解析格式化 |PHP资讯 | PHP教程 | 数据库技术 | 服务器技术 | 前端开发技术 | PHP框架 | 开发工具 | 在线工具
Copyright © 1998 - 2020 PHP1.CN. All Rights Reserved | 京公网安备 11010802041100号 | 京ICP备19059560号-4 | PHP1.CN 第一PHP社区 版权所有