規(guī)劃硬件我們主要介紹兩個(gè)方面:一個(gè)是Master怎么規(guī)劃,一個(gè)是Slave怎么規(guī)劃,選擇是不一樣的。其他規(guī)劃諸如容量以及操作系統(tǒng)的選擇也會(huì)簡(jiǎn)單介紹,對(duì)于了解Hadoop的操作環(huán)境有著重要幫助作用。
你所需要的網(wǎng)站建設(shè)服務(wù),我們均能行業(yè)靠前的水平為你提供.標(biāo)準(zhǔn)是產(chǎn)品質(zhì)量的保證,主要從事成都網(wǎng)站設(shè)計(jì)、成都做網(wǎng)站、企業(yè)網(wǎng)站建設(shè)、移動(dòng)網(wǎng)站建設(shè)、網(wǎng)頁(yè)設(shè)計(jì)、品牌網(wǎng)站建設(shè)、網(wǎng)頁(yè)制作、做網(wǎng)站、建網(wǎng)站。創(chuàng)新互聯(lián)建站擁有實(shí)力堅(jiān)強(qiáng)的技術(shù)研發(fā)團(tuán)隊(duì)及素養(yǎng)的視覺(jué)設(shè)計(jì)專(zhuān)才。首先我們看一下Slave,它是用來(lái)存儲(chǔ)數(shù)據(jù)然后進(jìn)行計(jì)算的,在選擇配置的時(shí)候通常要優(yōu)先考慮處理器。我們知道Hadoop的核心并不是在單臺(tái)機(jī)器上進(jìn)行多復(fù)雜的運(yùn)算,它是分布式的,所以對(duì)于處理器的要求并不高,那么選擇中等的數(shù)據(jù)器就可以(比如:2*6核2.9主頻)。
至于內(nèi)存方面,要盡可能給高一點(diǎn),中端給到256GB RAM,高端的給到512GB RAM。網(wǎng)絡(luò)方面中端給到1GB以太網(wǎng),高端的給到10GB以太網(wǎng)。這里重點(diǎn)要講的是磁盤(pán)驅(qū)動(dòng),16*3TB SATA驅(qū)動(dòng)(中端的),24*1TB SAS驅(qū)動(dòng)(高端的),我們發(fā)現(xiàn)越高端磁盤(pán)越多,訪問(wèn)效率也就越高。在磁盤(pán)驅(qū)動(dòng)這里也會(huì)涉及到一個(gè)概念Non-RAID,大家了解一下,具體可以自己去挖掘。
交換機(jī)使用專(zhuān)用的網(wǎng)絡(luò)設(shè)施,Hadoop將會(huì)使資源飽和,節(jié)點(diǎn)都連接到機(jī)架交換機(jī),機(jī)架之間通過(guò)核心交換機(jī)通信。
接下來(lái)我們重點(diǎn)強(qiáng)調(diào)Master節(jié)點(diǎn),Master沒(méi)有業(yè)務(wù)數(shù)據(jù),不需要計(jì)算,但是Master存儲(chǔ)有源數(shù)據(jù),所以Master節(jié)點(diǎn)很重要,在使用機(jī)器的時(shí)候如果條件允許,最好選擇高端的機(jī)器,運(yùn)營(yíng)商級(jí)別的硬件,雙電源、以太網(wǎng)卡,所有的模塊都做冗余。它配置有Raid,因?yàn)镸aster上面就是源數(shù)據(jù),數(shù)據(jù)沒(méi)有拷貝。20個(gè)節(jié)點(diǎn)以下集群配置64GB RAM,300個(gè)節(jié)點(diǎn)以下集群配置96GB內(nèi)存,更大的集群配置128GB內(nèi)存。
至于容量規(guī)劃以及操作系統(tǒng)的選擇,我們不做過(guò)多的說(shuō)明,了解就可以。容量規(guī)劃我們重點(diǎn)考慮復(fù)本機(jī)制和臨時(shí)空間,以及服務(wù)器本身需要的空間。在這里我們必須清楚Hadoop自動(dòng)使用新節(jié)點(diǎn),很多集群開(kāi)始很小(少于10個(gè)節(jié)點(diǎn)),并隨著數(shù)據(jù)和處理的增長(zhǎng)而增長(zhǎng),Hadoop集群可以增長(zhǎng)到上千個(gè)節(jié)點(diǎn)。而操作系統(tǒng)一般選擇擅長(zhǎng)管理的發(fā)行版,也可以了解一下幾個(gè):CentOS:面向服務(wù)器,而不是工作站;RedHat企業(yè)版linux;Ubuntu非常流行的發(fā)行版;使用LTS(長(zhǎng)期支持)的版本;SuSE在歐洲非常流行的發(fā)行版。
以上就是根據(jù)自己的經(jīng)驗(yàn)對(duì)Hadoop硬件環(huán)境做的一個(gè)介紹,如果有什么不清楚的,比如Non-raid,可以自己去找資源充電。我平常也喜歡看一些別人分享的學(xué)習(xí)知識(shí),從而彌補(bǔ)自己知識(shí)體系的欠缺,比如“大數(shù)據(jù)時(shí)代學(xué)習(xí)中心”。另外喜歡看一些實(shí)際的大數(shù)據(jù)案例,試著去分析案例中的問(wèn)題,不斷提升自己調(diào)用知識(shí)的能力,比如“大數(shù)據(jù)cn”,大家共勉,一起進(jìn)步。
另外有需要云服務(wù)器可以了解下創(chuàng)新互聯(lián)scvps.cn,海內(nèi)外云服務(wù)器15元起步,三天無(wú)理由+7*72小時(shí)售后在線,公司持有idc許可證,提供“云服務(wù)器、裸金屬服務(wù)器、高防服務(wù)器、香港服務(wù)器、美國(guó)服務(wù)器、虛擬主機(jī)、免備案服務(wù)器”等云主機(jī)租用服務(wù)以及企業(yè)上云的綜合解決方案,具有“安全穩(wěn)定、簡(jiǎn)單易用、服務(wù)可用性高、性價(jià)比高”等特點(diǎn)與優(yōu)勢(shì),專(zhuān)為企業(yè)上云打造定制,能夠滿足用戶豐富、多元化的應(yīng)用場(chǎng)景需求。
網(wǎng)站題目:Hadoop項(xiàng)目規(guī)劃:硬件-創(chuàng)新互聯(lián)
轉(zhuǎn)載源于:http://vcdvsql.cn/article6/djpcig.html
成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián),為您提供靜態(tài)網(wǎng)站、ChatGPT、移動(dòng)網(wǎng)站建設(shè)、面包屑導(dǎo)航、全網(wǎng)營(yíng)銷(xiāo)推廣、網(wǎng)站改版
聲明:本網(wǎng)站發(fā)布的內(nèi)容(圖片、視頻和文字)以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主,如果涉及侵權(quán)請(qǐng)盡快告知,我們將會(huì)在第一時(shí)間刪除。文章觀點(diǎn)不代表本網(wǎng)站立場(chǎng),如需處理請(qǐng)聯(lián)系客服。電話:028-86922220;郵箱:631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載,或轉(zhuǎn)載時(shí)需注明來(lái)源: 創(chuàng)新互聯(lián)
猜你還喜歡下面的內(nèi)容