背景

nginx-kafka-module是nginx的一個插件，可以將kafka整合到nginx中，便于web項(xiàng)目中前端頁面埋點(diǎn)數(shù)據(jù)的收集，如前端頁面設(shè)置了埋點(diǎn)，即可將用戶的一些訪問和請求數(shù)據(jù)通過http請求直接發(fā)送到消息中間件kafka中，后端可以通過程序消費(fèi)kafka中的消息來進(jìn)行實(shí)時(shí)的計(jì)算。比如通過SparkStream來實(shí)時(shí)的消費(fèi)Kafka中的數(shù)據(jù)來分析用戶PV,UV、用戶的一些行為及頁面的漏斗模型轉(zhuǎn)化率，來更好的對系統(tǒng)進(jìn)行優(yōu)化或者對來訪用戶進(jìn)行實(shí)時(shí)動態(tài)的分析。

創(chuàng)新互聯(lián)建站是一家專注于成都網(wǎng)站設(shè)計(jì)、網(wǎng)站制作與策劃設(shè)計(jì),嵩明網(wǎng)站建設(shè)哪家好?創(chuàng)新互聯(lián)建站做網(wǎng)站,專注于網(wǎng)站建設(shè)十年,網(wǎng)設(shè)計(jì)領(lǐng)域的專業(yè)建站公司;建站業(yè)務(wù)涵蓋:嵩明等地區(qū)。嵩明做網(wǎng)站價(jià)格咨詢:028-86922220

具體整合步驟

1.安裝git
    yum install -y git
2.切換到/usr/local/src目錄，然后將kafka的c客戶端源碼clone到本地
    cd /usr/local/src
    git clone https://github.com/edenhill/librdkafka
3.進(jìn)入到librdkafka，然后進(jìn)行編譯
    cd librdkafka
    yum install -y gcc gcc-c++ pcre-devel zlib-devel
    ./configure
    make && make install

4.安裝nginx整合kafka的插件，進(jìn)入到/usr/local/src，clone nginx整合kafka的源碼
    cd /usr/local/src
    git clone https://github.com/brg-liuwei/ngx_kafka_module

5.進(jìn)入到nginx的源碼包目錄下   （編譯nginx，然后將將插件同時(shí)編譯）
    cd /usr/local/src/nginx-1.12.2
    ./configure --add-module=/usr/local/src/ngx_kafka_module/
    make && make install

6.修改nginx的配置文件：設(shè)置一個location和kafaka的topic，詳情請查看當(dāng)前目錄的nginx.conf
#添加配置(2處)
kafka;
kafka_broker_list f1:9092 f2:9092 f3:9092;

location = /kafka/access {
            kafka_topic access888;
        }

如下圖：

7.啟動zk和kafka集群(創(chuàng)建topic)
    zkServer.sh start
    kafka-server-start.sh -daemon config/server.properties

8.啟動nginx，報(bào)錯，找不到kafka.so.1的文件
    error while loading shared libraries: librdkafka.so.1: cannot open shared object file: No such file or directory
9.加載so庫
    #開機(jī)加載/usr/local/lib下面的庫
    echo "/usr/local/lib" >> /etc/ld.so.conf
    #手動加載
    ldconfig

10.測試，向nginx中寫入數(shù)據(jù)，然后觀察kafka的消費(fèi)者能不能消費(fèi)到數(shù)據(jù)
    curl http://localhost/kafka/access -d "message send to kafka topic"
    curl http://localhost/kafka/access -d "小偉666" 

測試

也可以模擬頁面埋點(diǎn)請求接口來發(fā)送信息：

后臺Kafka消費(fèi)信息如圖：

另外有需要云服務(wù)器可以了解下創(chuàng)新互聯(lián)cdcxhl.cn，海內(nèi)外云服務(wù)器15元起步，三天無理由+7*72小時(shí)售后在線，公司持有idc許可證，提供“云服務(wù)器、裸金屬服務(wù)器、高防服務(wù)器、香港服務(wù)器、美國服務(wù)器、虛擬主機(jī)、免備案服務(wù)器”等云主機(jī)租用服務(wù)以及企業(yè)上云的綜合解決方案，具有“安全穩(wěn)定、簡單易用、服務(wù)可用性高、性價(jià)比高”等特點(diǎn)與優(yōu)勢，專為企業(yè)上云打造定制，能夠滿足用戶豐富、多元化的應(yīng)用場景需求。

當(dāng)前文章：Nginx整合Kafka-創(chuàng)新互聯(lián)
當(dāng)前路徑：http://vcdvsql.cn/article6/jggig.html

成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián)，為您提供建站公司、ChatGPT、網(wǎng)站收錄、網(wǎng)站設(shè)計(jì)公司、域名注冊、網(wǎng)站改版

廣告

聲明：本網(wǎng)站發(fā)布的內(nèi)容（圖片、視頻和文字）以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主，如果涉及侵權(quán)請盡快告知，我們將會在第一時(shí)間刪除。文章觀點(diǎn)不代表本網(wǎng)站立場，如需處理請聯(lián)系客服。電話：028-86922220；郵箱：631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載，或轉(zhuǎn)載時(shí)需注明來源： 創(chuàng)新互聯(lián)