热门标签 | HotTags
当前位置:  开发笔记 > 编程语言 > 正文

SparkLinux下安装Spark

前期部署1.JDK安装,配置PATH2.下载spark-1.6.1-bin-hadoop2.6.tgz,并上传到服务器解压3.在 usr 下创建软链接到目标文件夹4.修改配置文件,

前期部署

1.JDK安装,配置PATH

2.下载spark-1.6.1-bin-hadoop2.6.tgz,并上传到服务器解压

3.在 /usr 下创建软链接到目标文件夹

[root@srv01 usr]# ln -s spark-1.6.1-bin-hadoop2.6   spark

4.修改配置文件,目标目录 /usr/spark/conf/ 

[root@srv01 conf]# ls
docker.properties.template  log4j.properties.template    slaves.template               spark-env.sh.template
fairscheduler.xml.template  metrics.properties.template  spark-defaults.conf.template
这里需要把spark-env.sh.template改名为spark-env.sh
export JAVA_HOME=/usr/jdk
#这个是单机版的配置,不能实现高可用
export SPARK_MASTER_IP=tourbis
export SPARK_MASTER_PORT=7077

再配置slaves 

 

Spark- Linux下安装Spark


推荐阅读
  • DockerFile部署lnmp+memcached+redis+mongodb开发环境for PHP(三)
    本文源链接地址:https:www.93bok.com1、下载基础镜像centos2、查看一下大小 ... [详细]
  • Graylog是与ELK可以相提并论的一款集中式日志管理方案,支持数据收集、检索、可视化Dashboard。本节将实践用Graylog来管理Docker日志。Graylog架构Gr ... [详细]
  • 虚拟机需要关闭bcdeditsethypervisorlaunchtypeoffdocker需要开启bcdeditsethypervisorlauncht ... [详细]
  • SparkMLlib提供了一些基本的统计学的算法,下面主要说明一下:1、Summarystatistics对于RDD[Vector]类型,SparkMLlib提供了colStats ... [详细]
  • python写mr比java要省事的多下面介绍个简单的例子这个就是要的mapperimportsys,urlparse,osfromsubscribe_cleani ... [详细]
  • centos x64搭建 hadoop2.4.1 HA
    HadoopHA的实现方式上图大致架构包括:1、利用共享存储来在两个NN间同步edits信息。以前的HDFS是sharenothingbutNN,现在NN又sharestorage ... [详细]
  • 关于软件工程以及自我的解析
    对于软件工程这个课,一开始就有所期待的,通过以前的了解,觉得通过这个课程能让我们能够快速搭建一种框架,对于软件编程开发及其应用,是对于软件的构造解析,应该是思维上的理论知识。然而第 ... [详细]
  • svnstat查看当前目录下svn状态svnremovexxxxsvnaddxx ... [详细]
  • 在Windows下配置安装OMNeT++ 4.0
    在Windows下配置安装OMN ... [详细]
  • 室内外一体化建模
    http:www.fx361.compage20180913422182 ... [详细]
  • 简介if循环ifconditonthencommandselsecommandfielse这部分没有可以省略或者ifconditionthencommandselseifcondi ... [详细]
  • 标准ACL配置
    标准ACL的表号是1~99中的一个数字permit|d ... [详细]
  • 问题描述为某音像店开发一个迷你DVD管理器,最多可存6张DVD,实现碟片的管理。管理器具备的功能主要有:1、查看DVD信息。菜单选择查看功能,展示DVD的信息。2、新增DVD信息选 ... [详细]
  • 1.简述OC中内存管理机制。与retain配对使用的方法是dealloc还是release,为什么?需要与alloc配对使用的方法是dealloc还是release,为什么?rea ... [详细]
  • jenkins 邮件配置步骤
    一、进行系统管理中的邮件配置步骤:1、设置ExtendedE-mailNotification二、对构建的job添加邮件发送的步骤: ... [详细]
author-avatar
Edgar__一峰
这个家伙很懒,什么也没留下!
PHP1.CN | 中国最专业的PHP中文社区 | DevBox开发工具箱 | json解析格式化 |PHP资讯 | PHP教程 | 数据库技术 | 服务器技术 | 前端开发技术 | PHP框架 | 开发工具 | 在线工具
Copyright © 1998 - 2020 PHP1.CN. All Rights Reserved | 京公网安备 11010802041100号 | 京ICP备19059560号-4 | PHP1.CN 第一PHP社区 版权所有