本篇內容主要講解“cm+cdh搭建大數據集群的方法”,感興趣的朋友不妨來看看。本文介紹的方法操作簡單快捷,實用性強。下面就讓小編來帶大家學習“cm+cdh搭建大數據集群的方法”吧!
目前創新互聯已為上千余家的企業提供了網站建設、域名、虛擬空間、網站改版維護、企業網站設計、昌邑網站維護等服務,公司將堅持客戶導向、應用為本的策略,正道將秉承"和諧、參與、激情"的文化,與客戶和合作伙伴齊心協力一起成長,共同發展。
第一部分:搭建基本環境
1、網絡配置
vim /etc/sysconfig/network-scripts/ifcfg-ens32
service network restart
vim /etc/hosts
192.168.15.121 node1
192.168.15.122 node2
192.168.15.123 node3
2、SSH免密鑰登錄
ssh-keygen -t rsa -P '' -f ~/.ssh/id_rsa
ssh-copy-id node1
ssh-copy-id node2
ssh-copy-id node3
cd ~/.ssh
scp ./authorized_keys node2:`pwd`
scp ./authorized_keys node3:`pwd`
3、防火墻關閉
systemctl stop firewalld.service
systemctl disable firewalld.service
4、SELINUX關閉
setenforce 0
vim /etc/selinux/config (SELINUX=disabled)
5、安裝JDK配置環境變量
mkdir /usr/java
官網下載jdk的rpm文件,并上傳到/usr/java目錄下(如:/usr/java/jdk-8u221-linux-x64.rpm)
scp ./jdk-8u221-linux-x64.rpm node2:`pwd`
scp ./jdk-8u221-linux-x64.rpm node3:`pwd`
rpm -ivh jdk-8u221-linux-x64.rpm
vim /etc/profile
export JAVA_HOME=/usr/java/jdk1.8.0_221-amd64
export PATH=$JAVA_HOME/bin:$PATH
export CLASSPATH=.:$JAVA_HOME/lib/dt.jar:$JAVA_HOME/lib/tools.jar
source /etc/profile
java -version
6、安裝NTP 設置開機啟動(如果時間相同就可以不同步時間,可以繞過這個步驟)
chkconfig ntpd on 設置時間同步 ntpdate 202.120.2.101
7、安裝配置
yum install -y MySQL-server
systemctl start mysqld.service #啟動 mysql
systemctl restart mysqld.service #重啟 mysql
systemctl stop mysqld.service #停止 mysql
systemctl enable mysqld.service #設置 mysql 開機啟動
mysql
use mysql
delete from user
update user set Password=password("admin") where User='root';
GRANT ALL PRIVILEGES ON *.* TO 'root'@'%' IDENTIFIED BY 'admin' WITH GRANT OPTION;
flush privileges
8、下載第三方依賴包
yum -y install chkconfig python bind-utils psmisc libxslt zlib sqlite cyrus-sasl-plain cyrus-sasl-gssapi fuse fuse-libs redhat-lsb
第二部分:搭建cm+cdh
1、ClouderaManager安裝
1.1、安裝Cloudera Manager Server、Agent
mkdir /opt/cloudera-manager
tar -zxf cloudera-manager-centos7-cm5.16.1_x86_64.tar.gz -C /opt/cloudera-manager/
1.2、配置CM Agent
修改文件vim /opt/cloudera-manager/cm-5.16.1/etc/cloudera-scm-agent/config.ini中server_host為node1
1.3、創建用戶cloudera-scm
useradd --system --no-create-home --shell=/bin/false --comment "Cloudera SCM User" cloudera-scm
1.4、配置CM Server數據庫(node1)
mkdir /usr/share/java/
拷貝mysql jar文件到目錄 /usr/share/java/
注意jar包名稱要修改為mysql-connector-java.jar
grant all on *.* to 'temp'@'%' identified by 'temp' with grant option;
cd /opt/cloudera-manager/cm-5.16.1/share/cmf/schema/
./scm_prepare_database.sh mysql temp -h node1 -utemp -ptemp --scm-host node1 scm scm scm
格式:數據庫類型、數據庫、數據庫服務器、用戶名、密碼、cm server服務器
1.5、創建Parcel目錄
mkdir -p /opt/cloudera/parcel-repo
chown cloudera-scm:cloudera-scm /opt/cloudera/parcel-repo
mkdir -p /opt/cloudera/parcels
chown cloudera-scm:cloudera-scm /opt/cloudera/parcels
1.6、制作CDH本地源
下載好文件CDH-5.4.0-1.cdh6.4.0.p0.27-el6.parcel以及manifest.json,將這兩個文件放到server節點的/opt/cloudera/parcel-repo下。
打開manifest.json文件,里面是json格式的配置,找到與下載版本相對應的hash碼,新建文件,文件名與你的parel包名一致,并加上.sha后綴,將hash碼復制到文件中保存。
1.7、啟動CM Server、Agent
cd /opt/cloudera-manager/cm-5.16.1/etc/init.d/
./cloudera-scm-server start Sever
首次啟動會自動創建表以及數據,不要立即關閉或重啟,否則需要刪除所有表及數據重新安裝
查看啟動是否完成
cd /opt/cloudera-manager/cm-5.16.1/log/cloudera-scm-server
tail -f cloudera-scm-server.log
啟動完成后
訪問:http://note1的ip:7180
默認用戶名與密碼:admin/admin
則安裝成功了
到此,相信大家對“cm+cdh搭建大數據集群的方法”有了更深的了解,不妨來實際操作一番吧!這里是創新互聯網站,更多相關內容可以進入相關頻道進行查詢,關注我們,繼續學習!
網頁題目:cm+cdh搭建大數據集群的方法
文章地址:http://vcdvsql.cn/article42/gjehec.html
成都網站建設公司_創新互聯,為您提供企業網站制作、建站公司、響應式網站、網站設計、ChatGPT、微信公眾號
聲明:本網站發布的內容(圖片、視頻和文字)以用戶投稿、用戶轉載內容為主,如果涉及侵權請盡快告知,我們將會在第一時間刪除。文章觀點不代表本網站立場,如需處理請聯系客服。電話:028-86922220;郵箱:631063699@qq.com。內容未經允許不得轉載,或轉載時需注明來源: 創新互聯