背景

創新互聯建站長期為上1000家客戶提供的網站建設服務，團隊從業經驗10年，關注不同地域、不同群體，并針對不同對象提供差異化的產品和服務；打造開放共贏平臺，與合作伙伴共同營造健康的互聯網生態環境。為思茅企業提供專業的成都網站制作、成都做網站，思茅網站改版等技術服務。擁有10多年豐富建站經驗和眾多成功案例,為您定制開發。

nginx-kafka-module是nginx的一個插件，可以將kafka整合到nginx中，便于web項目中前端頁面埋點數據的收集，如前端頁面設置了埋點，即可將用戶的一些訪問和請求數據通過http請求直接發送到消息中間件kafka中，后端可以通過程序消費kafka中的消息來進行實時的計算。比如通過SparkStream來實時的消費Kafka中的數據來分析用戶PV,UV、用戶的一些行為及頁面的漏斗模型轉化率，來更好的對系統進行優化或者對來訪用戶進行實時動態的分析。

具體整合步驟

1.安裝git

yum install -y git

2.切換到/usr/local/src目錄，然后將kafka的c客戶端源碼clone到本地

cd /usr/local/src
git clone https://github.com/edenhill/librdkafka

3.進入到librdkafka，然后進行編譯

cd librdkafka
yum install -y gcc gcc-c++ pcre-devel zlib-devel
./configure
make && make install

4.安裝nginx整合kafka的插件，進入到/usr/local/src，clone nginx整合kafka的源碼

cd /usr/local/src
git clone https://github.com/brg-liuwei/ngx_kafka_module

5.進入到nginx的源碼包目錄下 （編譯nginx，然后將將插件同時編譯）

cd /usr/local/src/nginx-1.12.2
./configure --add-module=/usr/local/src/ngx_kafka_module/
make && make install

6.修改nginx的配置文件：設置一個location和kafaka的topic，詳情請查看當前目錄的nginx.conf

#添加配置(2處)
kafka;
kafka_broker_list f1:9092 f2:9092 f3:9092;

location = /kafka/access {
kafka_topic access888;
}

如下圖：

7.啟動zk和kafka集群(創建topic)

zkServer.sh start
kafka-server-start.sh -daemon config/server.properties

8.啟動nginx，報錯，找不到kafka.so.1的文件

error while loading shared libraries: librdkafka.so.1: cannot open shared object file: No such file or directory

9.加載so庫

#開機加載/usr/local/lib下面的庫
echo "/usr/local/lib" >> /etc/ld.so.conf
#手動加載
ldconfig

10.測試，向nginx中寫入數據，然后觀察kafka的消費者能不能消費到數據

curl http://localhost/kafka/access -d "message send to kafka topic"
curl http://localhost/kafka/access -d "小偉666"測試

也可以模擬頁面埋點請求接口來發送信息：

后臺Kafka消費信息如圖：

以上就是本文的全部內容，希望對大家的學習有所幫助，也希望大家多多支持創新互聯。

文章標題：Nginx整合Kafka的方法示例
本文URL：http://vcdvsql.cn/article36/pehopg.html

成都網站建設公司_創新互聯，為您提供網站設計公司、網站建設、營銷型網站建設、網站導航、網站維護、商城網站

廣告

聲明：本網站發布的內容（圖片、視頻和文字）以用戶投稿、用戶轉載內容為主，如果涉及侵權請盡快告知，我們將會在第一時間刪除。文章觀點不代表本網站立場，如需處理請聯系客服。電話：028-86922220；郵箱：631063699@qq.com。內容未經允許不得轉載，或轉載時需注明來源： 創新互聯