這篇文章主要為大家展示了“Flume采集數(shù)據(jù)時(shí)在HDFS上產(chǎn)生大量小文件的問(wèn)題怎么辦”，內(nèi)容簡(jiǎn)而易懂，條理清晰，希望能夠幫助大家解決疑惑，下面讓小編帶領(lǐng)大家一起研究并學(xué)習(xí)一下“Flume采集數(shù)據(jù)時(shí)在HDFS上產(chǎn)生大量小文件的問(wèn)題怎么辦”這篇文章吧。

創(chuàng)新互聯(lián)建站主營(yíng)六盤(pán)水網(wǎng)站建設(shè)的網(wǎng)絡(luò)公司,主營(yíng)網(wǎng)站建設(shè)方案,App定制開(kāi)發(fā),六盤(pán)水h5微信小程序開(kāi)發(fā)搭建,六盤(pán)水網(wǎng)站營(yíng)銷(xiāo)推廣歡迎六盤(pán)水等地區(qū)企業(yè)咨詢(xún)

調(diào)用agent 配置文件的：

#Describe the sink  添加：

a1.sinks.k1.hdfs.rollSize=0

a1.sinks.k1.hdfs.rollCount=0
rollSize
默認(rèn)值：1024，當(dāng)臨時(shí)文件達(dá)到該大小（單位：bytes）時(shí)，滾動(dòng)成目標(biāo)文件。如果設(shè)置成0，則表示不根據(jù)臨時(shí)文件大小來(lái)滾動(dòng)文件。
rollCount
默認(rèn)值：10，當(dāng)events數(shù)據(jù)達(dá)到該數(shù)量時(shí)候，將臨時(shí)文件滾動(dòng)成目標(biāo)文件，如果設(shè)置成0，則表示不根據(jù)events數(shù)據(jù)來(lái)滾動(dòng)文件。

還有另一種出現(xiàn)大量小文件對(duì)應(yīng)的解決方案，即設(shè)置a1.sinks.k1.hdfs.minBlockReplicas=1。因?yàn)槲募?huì)因?yàn)樗趬K的復(fù)制而滾動(dòng)文件 待測(cè)試......

以上是“Flume采集數(shù)據(jù)時(shí)在HDFS上產(chǎn)生大量小文件的問(wèn)題怎么辦”這篇文章的所有內(nèi)容，感謝各位的閱讀！相信大家都有了一定的了解，希望分享的內(nèi)容對(duì)大家有所幫助，如果還想學(xué)習(xí)更多知識(shí)，歡迎關(guān)注創(chuàng)新互聯(lián)-成都網(wǎng)站建設(shè)公司行業(yè)資訊頻道！

文章題目：Flume采集數(shù)據(jù)時(shí)在HDFS上產(chǎn)生大量小文件的問(wèn)題怎么辦-創(chuàng)新互聯(lián)
分享路徑：http://vcdvsql.cn/article10/hdsdo.html

成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián)，為您提供自適應(yīng)網(wǎng)站、品牌網(wǎng)站制作、網(wǎng)頁(yè)設(shè)計(jì)公司、網(wǎng)站制作、微信公眾號(hào)、用戶(hù)體驗(yàn)

廣告

聲明：本網(wǎng)站發(fā)布的內(nèi)容（圖片、視頻和文字）以用戶(hù)投稿、用戶(hù)轉(zhuǎn)載內(nèi)容為主，如果涉及侵權(quán)請(qǐng)盡快告知，我們將會(huì)在第一時(shí)間刪除。文章觀點(diǎn)不代表本網(wǎng)站立場(chǎng)，如需處理請(qǐng)聯(lián)系客服。電話：028-86922220；郵箱：631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載，或轉(zhuǎn)載時(shí)需注明來(lái)源： 創(chuàng)新互聯(lián)