使用Cloudera部署和管理hadoop集群

简介

Cloude Manager概述:

CDH是Cloudera公司对整体hadoop集群环境进行监控与管理的企业级大数据管理平台。

Cloudera Manager分为:

Cloudera Manager Server:对整个集群提供监控与管理操作。Cloudera Manager Server通过部署在不同设备上的Cloudera Manager Agent进行管理整体集群。Cloudera Manager Server需要部署在一台设备上。

Cloudera Manager Agent:部署在每个需要监控与管理的设备上。负责采集运行数据与执行下发的管理命令。

DataBase:关系型数据库是Cloudera Manager执行管理操作时,存储整体集群情况数据

安装

先安装Cloudrea Manager,再通过Cloudrea Manager在节点上安装Cloudrea Manager客户端,CDH,管理工具。
官方文档

一、环境需求:

  • 关闭selinux
  • 各节点可以SSH登陆
  • 在/etc/hosts中添加各节点的主机名

二、环境准备

1、修改以下参数,否则检查主机正确性时会出现 “已启用“透明大页面”,它可能会导致重大的性能问题。” 的警告

1
2
3
4
5
6
echo never > /sys/kernel/mm/transparent_hugepage/enabled
echo never > /sys/kernel/mm/transparent_hugepage/defrag

# vi /etc/rc.local
echo never > /sys/kernel/mm/transparent_hugepage/enabled
echo never > /sys/kernel/mm/transparent_hugepage/defrag

2、取代默认JDK

1
2
mkdir -p /usr/java
ln -s /usr/local/jdk1.8.0_91/ /usr/java/default

因为默认情况下安装Cloudrea Manager的时候会自动安装一个JDK7,所以在这里提前替换一下。如果之后检查的时候不生效,注意删除JDK7,然后重启服务。正常的目录如下:

三、安装Cloudrea Manager

1
2
3
4
cd /usr/src
wget http://archive.cloudera.com/cm5/installer/latest/cloudera-manager-installer.bin
chmod +x cloudera-manager-installer.bin
./cloudera-manager-installer.bin

然后会出现以下画面,点击Next或者,开始安装


最后安装完成,提示访问7180端口,账号密码都是admin

四、数据库准备工作

1. Mysql Install

1
2
rpm -Uvh  http://repo.mysql.com/mysql-community-release-el7-5.noarch.rpm
yum install mysql-server

2. Installing the MySQL JDBC Driver

If you already have the JDBC driver installed on the hosts that need it, you can skip this section. However, MySQL 5.6 requires a 5.1 driver version 5.1.26 or higher.

1
2
3
4
5
6
cd /usr/src
wget https://dev.mysql.com/get/Downloads/Connector-J/mysql-connector-java-5.1.46.tar.gz
tar zxvf mysql-connector-java-5.1.46.tar.gz
mkdir -pv /usr/share/java
cd mysql-connector-java-5.1.46
sudo cp mysql-connector-java-5.1.46-bin.jar /usr/share/java/mysql-connector-java.jar

3. Creating Databases for Cloudera Software

以下数据库名称仅供参考,只要匹配得上就行

1
2
3
4
5
6
mysql 
> create database scm;
> grant all on *.* to 'scm'@'%' identified by 'scm' with grant option;
> create database hive_metastore;
> grant all on hive_metastore.* to 'hive'@'%' identified by 'hive' with grant option;
> flush privileges;

4. Set up the Cloudera Manager Database

1
/opt/cloudera/cm/schema/scm_prepare_database.sh  mysql cm -hlocalhost -uscm -pscm --scm-host localhost scm scm scm

详细参数参考

五、安装Cloudrea Agent

1.搜索主机


注意搜索的时候主机名以逗号隔开,选择后点击继续。

2.选择版本

选择使用Parcel安装,选择CDH版本,默认即可

然后选择是否安装JDK,如果已经安装了,这里就不需要勾选

3.授权

默认使用root用户,提供公钥或者密码来授权连接

选择继续安装

如果安装过程中,下载安装jdk 或 cloudera-manager-agent失败,可以在节点上手动安装,然后再在Cloudrea Manager上继续安装。此处的JDK只是为了启动CM,和以后要用的JDK不是一回事!

1
2
3
yum -y install jdk
yum -y install oracle-j2sdk1.7
yum -y install cloudera-manager-agent

4.分配Parcel

下载Parcel并分配Parcel到各节点

注意如果下载完后长时间不动,检查日志

分配完成后点击继续,进行主机检查

标注的为有可能出现问题的地方。解决后,选择重新检查即可。如果验证部分通过,下面的版本部分出现不适用也可以忽略。

六、添加Services

1.选择服务


此处会有add 的选项,点击

根据个人需求选择安装服务类型,也可以选择自定义

The Select Services page allows you to select the services you want to install and configure. Make sure that you have the appropriate license key for the services you want to use. You can choose from Cloudera Essentials, Data Engineering, Analytic Database, Operational Database, All Services, and Custom Services. To include Cloudera Navigator data management, check the box labeled Include Cloudera Navigator.

服务选择页面允许你选择你想要的服务,然后选择继续。

After selecting the services you want to add, click Continue. The Assign Roles page displays.

2.Assign Roles 角色分配

The Assign Roles page suggests role assignments for the hosts in your cluster. You can click on the hostname for a role to select a different host. You can also click the View By Host button to see all the roles assigned to a host.
To review the recommended role assignments, see Recommended Cluster Hosts and Role Distribution.
After assigning all of the roles for your services, click Continue. The Setup Database page displays.

简单说就是根据实际情况来分配对应角色。

官网推荐分配策略参考
下面分别列出3-10和3-20台服务器的建议


下图为实际情况5个节点的分配

3.Setup Database

On the Setup Database page, you can enter the database names, usernames, and passwords you created in Step 4: Install and Configure Databases.
现在开始填写数据库信息,地址、账号和密码,就是之前准备环境的时候创建的库。
Select the database type and enter the database name, username, and password for each service. Click Test Connection to validate the settings. If the connection is successful, a green checkmark and the word Successful appears next to each service. If there are any problems, the error is reported next to the service that failed to connect.

After verifying that each connection is successful, click Continue. The Review Changes page displays.


注意选择Mysql!填写完成后记得验证一下。下面的库就是之前创建好的

现在表是空的,之后就会创建以下的表

4.启动服务


一般情况下除了hive以外,其他的服务都会正常启动。这个时候就要去修改以下hive配置。另外开一个页面,按照截图修改!

这样之前的hive元数据库就会自动创建表了。

集群验证

1.服务状态验证


这样所有的服务都绿了。

2.主机状态


状态正常,且心跳时间小于15秒

3.1任务测试一

登任意主机,执行下面任务(用Hadoop计算PI值,圆周率)
10指的是要运行10次map任务,10000指的是每个map任务,要投掷多少次,2个参数的乘积就是总的投掷次数。

1
hadoop jar /opt/cloudera/parcels/CDH/lib/hadoop-mapreduce/hadoop-mapreduce-examples.jar pi 10 10000


然后在群集-》Cluster1-》Yarn-》应用程序查看执行结果

执行结果:

3.2任务测试二

1.编辑一段文本,示例如下;

1
2
3
4
5
6
7
aslkl hello
hah
hah
hi
en
word
hello

2.上传文件到hdfs

1
2
3
4
5
6
7
8
9
hadoop fs -mkdir /test
#如果提示没有权限,记得修改一下
hadoop fs -chmod 777 -R /
hadoop fs -put s.txt /test
#上传
hadoop jar /opt/cloudera/parcels/CDH/lib/hadoop-mapreduce/hadoop-mapreduce-examples.jar wordcount /test/s.txt /out/
#执行
hadoop fs -text /out/*
#查看结果

4.1 MapReduce测试

创建表

执行操作

OK!

其他

1.优化访问速度

2.部分命令

1
2
3
4
service cloudera-scm-server stop 
service cloudera-scm-server-db stop
#内置PostgreSQL
service cloudera-scm-agent stop

3.邮件报警

1.配置邮箱

点击 cloudera manager service

点击配置,搜索alert,根据实际情况填写邮箱信息。注意区分25和465端口,并且保证邮箱地址正确。

页眉和页脚随意修改

修改完成后点击保存,然后重启!

2.测试邮件


点击发送测试即可

这样就收到了测试邮件。

3.可能出现的问题

  • 日志报localhost和25端口

    原因是修改配置后没有重启cloudera manager service
  • QQ邮箱报535错误

    检查用户名和授权码是否正确。注意QQ邮箱的是授权码不是纯粹的密码
------ 本文结束 ------

版权声明

Medivh's Notes by Medivh is licensed under a Creative Commons BY-NC-ND 4.0 International License.
Medivh创作并维护的Medivh's Notes博客采用创作共用保留署名-非商业-禁止演绎4.0国际许可证
本文首发于Medivh 博客( http://www.mknight.cn ),版权所有,侵权必究。