golang爬蟲框架colly

colly一款快速優(yōu)雅的golang爬蟲框架，簡單易用，功能完備。

成都創(chuàng)新互聯(lián)公司專注于普蘭店企業(yè)網(wǎng)站建設(shè),響應(yīng)式網(wǎng)站設(shè)計(jì),電子商務(wù)商城網(wǎng)站建設(shè)。普蘭店網(wǎng)站建設(shè)公司,為普蘭店等地區(qū)提供建站服務(wù)。全流程按需開發(fā)網(wǎng)站，專業(yè)設(shè)計(jì)，全程項(xiàng)目跟蹤，成都創(chuàng)新互聯(lián)公司專業(yè)和態(tài)度為您提供的服務(wù)

官網(wǎng)地址：

包地址： import "github.com/gocolly/colly"

一個(gè)簡單的例子：

使用方式概括下來主要有三步：

創(chuàng)建采集器時(shí)可以指定一些配置參數(shù)，如useragent，爬取深度及日志等

回調(diào)函數(shù)共有7中

通過瀏覽器開發(fā)者工具查看jianshu.com結(jié)構(gòu)如下

文章列表為ul標(biāo)簽，中間每一項(xiàng)是li標(biāo)簽，li中包含content，content中包含title，abstract和meta標(biāo)簽

Golang net/http 爬蟲[1]

上周從零學(xué)習(xí)了golang，語法簡單關(guān)鍵字少，寫個(gè)爬蟲熟悉一下語法結(jié)構(gòu)。

首先選用了原生的net/http包，基本上涵蓋了所有的get/post請(qǐng)求，各種參數(shù)都可以設(shè)置，網(wǎng)上google到html頁面解析goquery神器，很輕松就可以解決頁面解析問題。

首先就寫了個(gè)爬取匯率的爬蟲。然后重寫之前php的一個(gè)請(qǐng)求類，請(qǐng)求類的邏輯有點(diǎn)混亂不清晰，往往把兩個(gè)不同的功能合并到一起寫，粒度大，后來發(fā)現(xiàn)了一個(gè)好用的框架——colly，之后再試試好不好用

Windows 10 Golang

依賴包：goquery

較常用的方法有Find和Each

爬取中國銀行的匯率牌價(jià)表，golang依賴net/http包和goquery包

唯一的難點(diǎn)是對(duì)于goquery方法的使用，需要閱讀官方文檔：

使用原生的net/http包基本上可以解決大多數(shù)的網(wǎng)頁請(qǐng)求，使用goquery可以解決頁面解析問題

可以利用golang的協(xié)程特性進(jìn)行異步多協(xié)程爬取

增加安全性可以通過幾個(gè)方面進(jìn)行改進(jìn)：

1.首先可以限制爬蟲的爬取速度

2.每次對(duì)網(wǎng)頁的請(qǐng)求都隨機(jī)選用一個(gè)客戶端

3.選用IP代理池，防止IP誤封（及限制ip訪問次數(shù)）

構(gòu)造請(qǐng)求代理ip網(wǎng)站的鏈接→獲取網(wǎng)頁內(nèi)容→ 提取網(wǎng)頁中IP地址和端口號(hào)→驗(yàn)證IP的有效性并存儲(chǔ)

輕量級(jí)反爬蟲方案

淺談JSP

golang帶json的Http請(qǐng)求

Get/Post

HTTP請(qǐng)求中的Form Data和Request Payload的區(qū)別

HTTP Json請(qǐng)求

net/http：

golang HTTP操作

python建立爬蟲代理ip池

爬蟲黑科技之讓你的爬蟲程序更像人類用戶的行為

特點(diǎn)：事件監(jiān)聽，通過callback執(zhí)行事件處理

基于colly開發(fā)的web管理界面

Go 語言極速入門13 - 實(shí)戰(zhàn)項(xiàng)目之并發(fā)版爬蟲

爬取器 fetcher 和解析器 parser 與之前相同，模型類也不變。

注意：

見本小節(jié)文末分析。

Q1. 為什么在 scheduler 中每一個(gè)將 Request 添加到 chan 的任務(wù)都開啟一個(gè) Goroutine 來執(zhí)行？

A：在 Go 語言學(xué)習(xí)9 - Channel 一節(jié)描述過，對(duì)于無緩沖的 channel， 如果兩個(gè) goroutine 沒有同時(shí)準(zhǔn)備好，通道會(huì)導(dǎo)致先執(zhí)行發(fā)送或接收操作的 goroutine 阻塞等待 ，假設(shè)使用 s.workerChan - request 而不是 go func() { s.workerChan - request }() ，假設(shè)開啟了 10 個(gè) Worker Goroutine，這 10 個(gè) goroutine 阻塞在 r := -in 阻塞等待獲取 Request 上，假設(shè) seeds 大于 10，例如 11，那么當(dāng) Engine 的這個(gè)循環(huán)執(zhí)行到底 11 個(gè)的時(shí)候，將陷入等待

，因?yàn)樗械?0個(gè) Worker goroutine 此時(shí)都可能也處于等待中，即 in chan 沒有接收方準(zhǔn)備好接收數(shù)據(jù)，所以 engine 作為發(fā)送方也要阻塞等待；那么為什么10個(gè) Worker goroutine 都會(huì)處于等待中呢？

因?yàn)?0個(gè) Worker Goroutine 都處理完了請(qǐng)求，并阻塞在 out - result ，由于 Engine 阻塞在 “將第11個(gè) Request 發(fā)送到 in” 上，所以其無法進(jìn)行后續(xù)的死循環(huán)去開啟 result := -out ，到此為止，相互等待死鎖形成！！！Engine 等待 Worker 準(zhǔn)備好 r := -in ，而10個(gè) Worker 等待 Engine 的 result := -out 。

當(dāng)使用 go func() { s.workerChan - request }() 之后，Engine Goroutine 將不再阻塞，死鎖等待被打破！！！

Q2. scheduler 方法為何使用指針接收者而不是值接收者？

A：在 Go 語言學(xué)習(xí)5 - 面向接口 中我們?cè)敿?xì)的介紹了什么時(shí)候使用指針接收者，什么時(shí)候使用值接收者，其中最重要的兩條就是 “ 1. 如果要改變接收者內(nèi)部的屬性值，必須使用指針接收者，因?yàn)橹到邮照呤菍?duì)接收者副本的操作；2. 如果 struct 內(nèi)一個(gè)方法是指針接收者，那么其全部方法都是用指針接收者 ”，在 scheduler 中，我們要將外界的 in chan 賦值給 scheduler 的 workChann，所以需要改變 workChann 的值，需要使用指針接收者。

本文名稱：go語言實(shí)現(xiàn)一個(gè)爬蟲 golang爬蟲和python爬蟲
網(wǎng)頁路徑：http://vcdvsql.cn/article40/hepoeo.html

成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián)，為您提供移動(dòng)網(wǎng)站建設(shè)、電子商務(wù)、網(wǎng)站營銷、外貿(mào)網(wǎng)站建設(shè)、外貿(mào)建站、微信小程序

廣告

聲明：本網(wǎng)站發(fā)布的內(nèi)容（圖片、視頻和文字）以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主，如果涉及侵權(quán)請(qǐng)盡快告知，我們將會(huì)在第一時(shí)間刪除。文章觀點(diǎn)不代表本網(wǎng)站立場，如需處理請(qǐng)聯(lián)系客服。電話：028-86922220；郵箱：631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載，或轉(zhuǎn)載時(shí)需注明來源： 創(chuàng)新互聯(lián)