热门标签 | HotTags
当前位置:  开发笔记 > 编程语言 > 正文

azkaban2.5安装

安装包:azkaban-executor-server-2.5.0.tar.gzazkaban-web-server-2.5.0.tar.gzazkaban-sql-script-

安装包:

    azkaban-executor-server-2.5.0.tar.gz

    azkaban-web-server-2.5.0.tar.gz

    azkaban-sql-script-2.5.0.tar.gz

    azkaban-jobtype-2.5.0.tar.gz


1 配置MySql

    目前 Azkaban 只支持 MySql ,故需安装 MySql 服务器,创建 azkaban 数据库,并创建 azkaban 用户,密码为 azkaban,并设置权限。

    # Example database creation command, although the db name doesn‘t need to be ‘azkaban‘

    mysql> CREATE DATABASE azkaban;

    # Example database creation command. The user name doesn‘t need to be ‘azkaban‘

    mysql> CREATE USER ‘azkaban‘@‘%‘ IDENTIFIED BY ‘azkaban‘;

    # Replace db, username with the ones created by the previous steps.

    mysql> GRANT SELECT,INSERT,UPDATE,DELETE ON azkaban.* to ‘azkaban‘@‘%‘ WITH GRANT OPTION;


    解压缩 azkaban-sql-2.5.0.tar.gz文件,并进入到 azkaban-sql-script目录,然后进入 mysql 命令行模式:

    $ mysql -uazkaban -pazkaban

    mysql> use azkaban

    mysql> source create-all-sql-2.5.0.sql


2 安装 azkaban-web-server

    解压缩 azkaban-web-server-2.5.0.tar.gz,创建 SSL 配置,命令:keytool -keystore keystore -alias jetty -genkey -keyalg RSA

    完成上述工作后,将在当前目录生成 keystore 证书文件,将 keystore 考贝到 azkaban web 目录中

    修改 azkaban web 服务器配置,主要包括:


    a. 修改时区和首页名称:

        # Azkaban Personalization Settings

        azkaban.name=ETL Task

        azkaban.label=By BI

        azkaban.color=#FF3601

        azkaban.default.servlet.path=/index

        web.resource.dir=web/

        default.timezone.id=Asia/Shanghai


    b. 修改 MySql 数据库配置

        database.type=mysql

        mysql.port=3306

        mysql.host=localhost

        mysql.database=azkaban

        mysql.user=azkaban

        mysql.password=azkaban

        mysql.numcOnnections=100


    c. 修改 Jetty 服务器属性,包括 keystore 的相关配置

        # Azkaban Jetty server properties.

        jetty.hostname=0.0.0.0

        jetty.maxThreads=25

        jetty.ssl.port=8443

        jetty.port=8081

        jetty.keystore=keystore

        jetty.password=redhat

        jetty.keypassword=redhat

        jetty.truststore=keystore

        jetty.trustpassword=redhat

    

    d. 修改邮件设置(可选)

    # mail settings

    mail.sender=admin@javachen.com

    mail.host=javachen.com

    mail.user=admin

    mail.password=admin


3 安装 azkaban-executor-server

    解压缩 azkaban-executor-server-2.5.0.tar.gz,然后修改配置文件,包括:

    a. 修改时区为:default.timezone.id=Asia/Shanghai

    

    b. 修改 MySql 数据库配置

        database.type=mysql

        mysql.port=3306

        mysql.host=localhost

        mysql.database=azkaban

        mysql.user=azkaban

        mysql.password=azkaban

        mysql.numcOnnections=100


4 用户设置

    进入 azkaban web 服务器 conf 目录,修改 azkaban-users.xml ,增加管理员用户:

    

        

        

        

        

        

    


5 启动服务

    azkaban-web-server,需要在 azkaban-web-server 目录下执行下面命令:

    sh bin/azkaban-web-start.sh

    

    azkaban-executor-server,需要在 azkaban-executor-server 目录下执行下面命令:

    sh bin/azkaban-executor-start.sh


6 调试sqoop调度任务

    创建两个文件:sqoop.job和sqoop.sh

    

    sqoop.job文件内容如下:

    # sqoop.job

    type=command

    command=sh sqoop.sh

    

    sqoop.sh文件内容如下:

    #!/bin/bash

    hdfs dfs -rm -r /user/cloud/WF_JOBS

    sqoop-import --connect jdbc:mysql://120.132.117.159:33306/oozie --username inputuser --password inputpass --table WF_JOBS

    

    之后许将这两个文件打包成sqoop.zip(azkaban所需的文件格式),在页面中完成调度,地址为:https://hostname:8443

    

    注意,如果有多个job存在依赖,则需要将多个job打进一个zip压缩包中。


本文出自 “JC” 博客,请务必保留此出处http://jackeychen.blog.51cto.com/7354471/1905667

azkaban2.5安装


推荐阅读
  • OpenCV4.5.0+contrib编译流程及解决错误方法
    本文介绍了OpenCV4.5.0+contrib的编译流程,并提供了解决常见错误的方法,包括下载失败和路径修改等。同时提供了相关参考链接。 ... [详细]
  • 原文地址:https:www.cnblogs.combaoyipSpringBoot_YML.html1.在springboot中,有两种配置文件,一种 ... [详细]
  • 如何用UE4制作2D游戏文档——计算篇
    篇首语:本文由编程笔记#小编为大家整理,主要介绍了如何用UE4制作2D游戏文档——计算篇相关的知识,希望对你有一定的参考价值。 ... [详细]
  • MACElasticsearch安装步骤及验证方法
    本文介绍了MACElasticsearch的安装步骤,包括下载ZIP文件、解压到安装目录、启动服务,并提供了验证启动是否成功的方法。同时,还介绍了安装elasticsearch-head插件的方法,以便于进行查询操作。 ... [详细]
  • Hibernate延迟加载深入分析-集合属性的延迟加载策略
    本文深入分析了Hibernate延迟加载的机制,特别是集合属性的延迟加载策略。通过延迟加载,可以降低系统的内存开销,提高Hibernate的运行性能。对于集合属性,推荐使用延迟加载策略,即在系统需要使用集合属性时才从数据库装载关联的数据,避免一次加载所有集合属性导致性能下降。 ... [详细]
  • 本文介绍了网页播放视频的三种实现方式,分别是使用html5的video标签、使用flash来播放以及使用object标签。其中,推荐使用html5的video标签来简单播放视频,但有些老的浏览器不支持html5。另外,还可以使用flash来播放视频,需要使用object标签。 ... [详细]
  • 本文介绍了在无法联网的情况下,通过下载rpm包离线安装zip和unzip的方法。详细介绍了如何搜索并下载合适的rpm包,以及如何使用rpm命令进行安装。 ... [详细]
  • 熟练掌握Spring Cloud,终于成为Java工程师的面试门槛 ... [详细]
  • 解决IDEA的HTML文件格式的显示问题
    用IDEA在显示HTML文件的时候,格式非常奇怪,比如body标签下面不会自动缩进,每次都需要手动缩进,怪麻烦的。解决办法如下:settings>Ed ... [详细]
  • Jmeter对RabbitMQ压力测试
    篇首语:本文由编程笔记#小编为大家整理,主要介绍了Jmeter对RabbitMQ压力测试相关的知识,希望对你有一定的参考价值。Jm ... [详细]
  • 寻求更强大的身份和访问管理(IAM)平台的企业正在转向云,并接受身份即服务(IDaaS)的灵活性。要为IAM选择正确的场外解决方案,业务管理人员和IT专业人员必须在实施之前评估安全 ... [详细]
  • k8s+springboot+Eureka如何平滑上下线服务
    k8s+springboot+Eureka如何平滑上下线服务目录服务平滑上下线-k8s版本目录“上篇介绍了springboot+Euraka服务平滑上下线的方式,有部分小伙伴反馈k ... [详细]
  • maven阿里云镜像一路繁花似锦绣前程
    重点:找到maven引用的settings.xml配置文件,将以下代码复制至<mirrors><mirrors&a ... [详细]
  • 篇首语:本文由编程笔记#小编为大家整理,主要介绍了SpringCloudRibbon部分源码相关的知识,希望对你有一定的参考价值。1:ribbon是提供通过servi ... [详细]
  • 部署新项目报错
    问题1:Java-suorce语言版本支持不对打开file在modules中选择8版本问题2:依赖jar包不对,重新下载maven ... [详细]
author-avatar
六九四四708
这个家伙很懒,什么也没留下!
PHP1.CN | 中国最专业的PHP中文社区 | DevBox开发工具箱 | json解析格式化 |PHP资讯 | PHP教程 | 数据库技术 | 服务器技术 | 前端开发技术 | PHP框架 | 开发工具 | 在线工具
Copyright © 1998 - 2020 PHP1.CN. All Rights Reserved | 京公网安备 11010802041100号 | 京ICP备19059560号-4 | PHP1.CN 第一PHP社区 版权所有