针对cdh的组件oozie适合apache版本的hadoop组件一起使用么

针对cdh的组件oozie适合apache版本的hadoop组件一起使用么,第1张

CDH53 Oozie服务搭建

编写人:胡旻 版本:V_05 修改时间:20150215(Oozie版本CDH53组件V400)

版权所有转载请注明

一Oozie简介

Oozie是一个管理Hdoop作业(job)的工作流程调度管理服务。

1 Oozie的工作流是一系列动作的直接周期图(Directed Acyclical Graphs)。这些动作是典型的Hadoop任务(MapReduce,Streaming, Pipes, Pig, Hive, Sqoop, etc)2 Oozie协调作业就是通过时间(频率)和有效数据触发当前的Oozie工作流程3 Oozie可以将一系列协调作业捆绑作为一个任务进行管理4 Oozie 是一个可扩展,数据感知的服务,允许你在Hadoop上使用运行一系列独立的任务二.软件包

Oozie采用服务器客户端模式,对于安装Oozie有两种包选择,针对Oozie服务器(oozie)和客户端(oozie-client)的独立的RPM包。

三.安装需求

安装Oozie服务器需要满足

1 *** 作系统的支持(如:支持CDH5的 *** 作系统)2 Oracle JDK的支持

3 如果不想用自带的derby还需要一个可以支持的数据库安装Oozie Client需要满足

Oracle JDK的支持

四.安装Oozie

Oozie包含两个独立包;一个是客户端包(oozie-client)另一个是服务包(oozie)。选择你需要的合适的包进行安装。

使用yum方式安装Oozie服务包

$ sudo yum install oozie

使用yum方式安装Oozie客户端包

$ sudo yum install oozie-client

五.配置Oozie

1配置Hadoop任务的使用版本

Oozie客户端不会和HadoopMapReduce任务进行直接的交互,所以其不需要任何MapReduce的设置Oozie服务能够对接使用MRv1或YARN,但是不能同时使用。

文件类型

安装路径

二进制包

/usr/lib/oozie/

配置信息

/etc/oozie/conf/

文档

/usr/share/doc/oozie-400+cdh530+334

例子

/usr/share/doc/oozie-400+cdh530+334

数据

/usr/share/doc/oozie-400+cdh530+334

日志

/var/log/oozie

临时文件

/var/tmp/oozie/

PID文件

/var/run/oozie/

2 使用MySQL配置Oozie

安装和启动mysql,使用mysql命令台工具,创建Oozie数据库和Oozie的mysql用户$ mysql -u root -p

Enter password:

mysql> create database oozie;

Query OK, 1 row affected (003 sec)

mysql> grant all privileges on oozie to 'oozie'@'localhost' identified by 'oozie';Query OK, 0 rows affected (003 sec)

mysql> grant all privileges on oozie to 'oozie'@'%' identified by 'oozie';Query OK, 0 rows affected (003 sec)

mysql> exit

Bye

3配置Oozie使用MySQL,编辑oozie-sitexml中属性文件如下,配置oozie-sitexml$ sudo vim /etc/oozie/conf/oozie-sitexml

<property>

<name>oozieserviceJPAServicejdbcdriver</name>

<value>commysqljdbcDriver</value>

</property>

<property>

<name>oozieserviceJPAServicejdbcurl</name>

<value>jdbc:mysql://localhost:3306/oozie</value>

</property>

<property>

<name>oozieserviceJPAServicejdbcusername</name>

<value>oozie</value>

</property>

<property>

<name>oozieserviceJPAServicejdbcpassword</name>

<value>oozie</value>

</property>

4 添加MySQL JDBC 驱动包(JAR文件)给Oozie

拷贝或软连接mysql的JDBC驱动JAR文件到/var/lib/oozie/ 文件夹5 建立Oozie数据库模式

在设置完Oozie 数据库信息和创建相应的数据库,创建Oozie数据库模式,Oozie为这个目的提供了一个数据库工具运行Oozie数据库工具

$ sudo -u oozie /usr/lib/oozie/bin/ooziedbsh create -run你应该看到以下输出

Validate DB Connection

DONE

Check DB schema does not exist

DONE

Check OOZIE_SYS table does not exist

DONE

Create SQL schema

DONE

DONE

Create OOZIE_SYS table

DONE

Oozie DB has been created for Oozie version '400-cdh530'

The SQL commands have been written to: /tmp/ooziedb-5737263881793872034sql6 允许Oozie Web Console

为了允许Oozie webconsole, 下载添加ExtJS库到 Oozie服务器步骤1:下载库

从>

kc5i

01Tableau全套课程|04Tableau更新专区|03Tableau实战|02Tableau进阶|01Tableau入门|03Tableau基础教程视频(中文+英文) 8课|02Tableau从零开始学习视频(中文+英文) 7课|01Tableau80快速入门视频教程 10课|

以上就是关于针对cdh的组件oozie适合apache版本的hadoop组件一起使用么全部的内容,包括:针对cdh的组件oozie适合apache版本的hadoop组件一起使用么、大数据学习需要哪些课程、等相关内容解答,如果想了解更多相关内容,可以关注我们,你们的支持是我们更新的动力!

欢迎分享,转载请注明来源:内存溢出

原文地址:https://54852.com/sjk/9740488.html

(0)
打赏 微信扫一扫微信扫一扫 支付宝扫一扫支付宝扫一扫
上一篇 2023-05-01
下一篇2023-05-01

发表评论

登录后才能评论

评论列表(0条)

    保存