cm+cdh搭建大數據集群的方法

本篇內容主要講解“cm+cdh搭建大數據集群的方法”，感興趣的朋友不妨來看看。本文介紹的方法操作簡單快捷，實用性強。下面就讓小編來帶大家學習“cm+cdh搭建大數據集群的方法”吧!

第一部分：搭建基本環境

1、網絡配置
vim /etc/sysconfig/network-scripts/ifcfg-ens32 
service network restart

vim /etc/hosts
192.168.15.121 node1
192.168.15.122 node2
192.168.15.123 node3

2、SSH免密鑰登錄
ssh-keygen -t rsa -P '' -f ~/.ssh/id_rsa
ssh-copy-id node1
ssh-copy-id node2
ssh-copy-id node3

cd ~/.ssh
scp ./authorized_keys node2:`pwd`
scp ./authorized_keys node3:`pwd`

3、防火墻關閉
systemctl stop firewalld.service
systemctl disable firewalld.service 

4、SELINUX關閉
setenforce 0
vim /etc/selinux/config (SELINUX=disabled)

5、安裝JDK配置環境變量
mkdir /usr/java
官網下載jdk的rpm文件，并上傳到/usr/java目錄下（如：/usr/java/jdk-8u221-linux-x64.rpm）
scp ./jdk-8u221-linux-x64.rpm node2:`pwd`
scp ./jdk-8u221-linux-x64.rpm node3:`pwd`

rpm -ivh jdk-8u221-linux-x64.rpm 

vim /etc/profile
export JAVA_HOME=/usr/java/jdk1.8.0_221-amd64
export PATH=$JAVA_HOME/bin:$PATH
export CLASSPATH=.:$JAVA_HOME/lib/dt.jar:$JAVA_HOME/lib/tools.jar

source /etc/profile
java -version

6、安裝NTP 設置開機啟動（如果時間相同就可以不同步時間，可以繞過這個步驟）
 chkconfig ntpd on 設置時間同步 ntpdate 202.120.2.101
    
7、安裝配置
 yum install -y mysql-server

systemctl start mysqld.service #啟動 mysql

systemctl restart mysqld.service #重啟 mysql

systemctl stop mysqld.service #停止 mysql

systemctl enable mysqld.service #設置 mysql 開機啟動

mysql
use mysql
delete from user
update user set Password=password("admin") where User='root';
GRANT ALL PRIVILEGES ON *.* TO 'root'@'%' IDENTIFIED BY 'admin' WITH GRANT OPTION;
flush privileges

8、下載第三方依賴包
yum -y install chkconfig python bind-utils psmisc libxslt zlib sqlite cyrus-sasl-plain cyrus-sasl-gssapi fuse fuse-libs redhat-lsb

第二部分：搭建cm+cdh

1、ClouderaManager安裝
1.1、安裝Cloudera Manager Server、Agent
mkdir /opt/cloudera-manager
tar -zxf cloudera-manager-centos7-cm5.16.1_x86_64.tar.gz  -C /opt/cloudera-manager/

1.2、配置CM Agent
修改文件vim /opt/cloudera-manager/cm-5.16.1/etc/cloudera-scm-agent/config.ini中server_host為node1

1.3、創建用戶cloudera-scm
useradd --system --no-create-home --shell=/bin/false --comment "Cloudera SCM User" cloudera-scm

1.4、配置CM Server數據庫(node1)
mkdir /usr/share/java/
拷貝mysql jar文件到目錄 /usr/share/java/
注意jar包名稱要修改為mysql-connector-java.jar
grant all on *.* to 'temp'@'%' identified by 'temp' with grant option;
cd /opt/cloudera-manager/cm-5.16.1/share/cmf/schema/
./scm_prepare_database.sh mysql temp -h node1 -utemp -ptemp --scm-host node1 scm scm scm
格式：數據庫類型、數據庫、數據庫服務器、用戶名、密碼、cm server服務器

1.5、創建Parcel目錄
mkdir -p /opt/cloudera/parcel-repo
chown cloudera-scm:cloudera-scm /opt/cloudera/parcel-repo
mkdir -p /opt/cloudera/parcels
chown cloudera-scm:cloudera-scm /opt/cloudera/parcels

1.6、制作CDH本地源
下載好文件CDH-5.4.0-1.cdh6.4.0.p0.27-el6.parcel以及manifest.json，將這兩個文件放到server節點的/opt/cloudera/parcel-repo下。
打開manifest.json文件，里面是json格式的配置，找到與下載版本相對應的hash碼，新建文件，文件名與你的parel包名一致，并加上.sha后綴，將hash碼復制到文件中保存。

1.7、啟動CM Server、Agent
cd /opt/cloudera-manager/cm-5.16.1/etc/init.d/
./cloudera-scm-server start Sever 
首次啟動會自動創建表以及數據，不要立即關閉或重啟，否則需要刪除所有表及數據重新安裝
查看啟動是否完成
cd /opt/cloudera-manager/cm-5.16.1/log/cloudera-scm-server
tail -f cloudera-scm-server.log

啟動完成后

訪問:http://note1的ip:7180
默認用戶名與密碼：admin/admin
則安裝成功了

到此，相信大家對“cm+cdh搭建大數據集群的方法”有了更深的了解，不妨來實際操作一番吧！這里是億速云網站，更多相關內容可以進入相關頻道進行查詢，關注我們，繼續學習！