本篇內容主要講解“Hadoop和pig怎么安裝”,感興趣的朋友不妨來看看。本文介紹的方法操作簡單快捷,實用性強。下面就讓小編來帶大家學習“Hadoop和pig怎么安裝”吧!
創新互聯建站網站建設公司一直秉承“誠信做人,踏實做事”的原則,不欺瞞客戶,是我們最起碼的底線! 以服務為基礎,以質量求生存,以技術求發展,成交一個客戶多一個朋友!專注中小微企業官網定制,成都網站建設、網站設計,塑造企業網絡形象打造互聯網企業效應。我們用MapReduce進行數據分析。當業務比較復雜的時候,使用MapReduce將會是一個很復雜的事情,比如你需要對數據進行很多預處理或轉換,以便能夠適應MapReduce的處理模式,另一方面,編寫MapReduce程序,發布及運行作業都將是一個比較耗時的事情。
Pig的出現很好的彌補了這一不足。Pig能夠讓你專心于數據及業務本身,而不是糾結于數據的格式轉換以及MapReduce程序的編寫。本質是上來說,當你使用Pig進行處理時,Pig本身會在后臺生成一系列的MapReduce操作來執行任務,但是這個過程對用戶來說是透明的。
Pig的安裝
Pig作為客戶端程序運行,即使你準備在Hadoop集群上使用Pig,你也不需要在集群上做任何安裝。Pig從本地提交作業,并和Hadoop進行交互。
1)下載Pig
前往http://mirror.bit.edu.cn/apache/pig/ 下載合適的版本,比如 pig-0.17.0.tar.gz
2)解壓文件到合適的目錄
[root@hadp-node1 hadoop]# tar -zxvf pig-0.17.0.tar.gz -C /usr/local/hadoop/
3)設置環境變量
export PIG_HOME=/usr/local/hadoop/pig-0.17.0
export PIG_CLASSPATH=$HADOOP_HOME/etc/hadoop/ #顯式設置HADOOP_HOME變量,確保庫和你實際使用的HADOOP版本兼容
export PATH=$PATH:$PIG_HOME/bin
如果沒有設置JAVA環境變量,此時還需要設置JAVA_HOME,比如:
export JAVA_HOME=/usr/local/jdk1.7.0_51
說明:
PIG_CLASSPATH變量 是PIG配置MapReduce模式,讓Pig軟件找到Hadoop集群,這里是告訴pig軟件hadoop的配置文件在哪里,通過一系列配置文件core_site.xml hdfs-site.xml mapred-site.xml 可以找到關鍵參數NameNode 和 JobTracker 的位置以及端口信息,有了這些信息就可以對整個集群進行控制了。
4)驗證
執行以下命令,查看Pig是否可用
到此,相信大家對“Hadoop和pig怎么安裝”有了更深的了解,不妨來實際操作一番吧!這里是創新互聯網站,更多相關內容可以進入相關頻道進行查詢,關注我們,繼續學習!
本文標題:Hadoop和pig怎么安裝-創新互聯
網頁網址:http://vcdvsql.cn/article6/iejog.html
成都網站建設公司_創新互聯,為您提供建站公司、網站內鏈、響應式網站、外貿網站建設、定制開發、網站導航
聲明:本網站發布的內容(圖片、視頻和文字)以用戶投稿、用戶轉載內容為主,如果涉及侵權請盡快告知,我們將會在第一時間刪除。文章觀點不代表本網站立場,如需處理請聯系客服。電話:028-86922220;郵箱:631063699@qq.com。內容未經允許不得轉載,或轉載時需注明來源: 創新互聯