這篇文章主要介紹python爬蟲怎么爬取微博熱搜,文中介紹的非常詳細,具有一定的參考價值,感興趣的小伙伴們一定要看完!
網站建設哪家好,找創新互聯!專注于網頁設計、網站建設、微信開發、微信小程序、集團企業網站建設等服務項目。為回饋新老客戶創新互聯還提供了呼和浩特免費建站歡迎大家使用!
python常用的庫:1.requesuts;2.scrapy;3.pillow;4.twisted;5.numpy;6.matplotlib;7.pygama;8.ipyhton等。
本文教程操作環境:windows7系統、Python 3.9.1,DELL G3電腦。
第一步:導入爬蟲常用的requests,用處是對中文進行url編碼。
import re import time import requests # url編碼和解碼 from urllib import parse
第二步:設置url地址,模擬瀏覽器(這一步可以不用)防止被認出是爬蟲程序。
###網址 url="https://s.weibo.com/top/summary?Refer=top_hot&topnav=1&wvr=6" ###模擬瀏覽器,這個請求頭windows下都能用 header={'User-Agent':'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/73.0.3683.103 Safari/537.36'}
第三步:利用req uests庫的get()和lxml的etr ee()來獲 取網頁代碼
###獲取html頁面 html=etree.HTML(requests.get(url,headers=header).text)
第四步:定義函數,用來爬取某一條熱搜,第二行是合成selector用的,后四行 if else 是用來對齊輸出的
def OneHot(i): findhot = '#pl_top_realtimehot > table > tbody > tr:nth-child('+str(i)+') > td.td-02 > a' hot = r.html.find(str(findhot),first = True) if(i<=10): print(str(i-1)+' '+hot.text) else: print(str(i-1)+' '+hot.text)
第五步:爬取熱搜
for i in range(1,52): OneHot(i)
以上是“python爬蟲怎么爬取微博熱搜”這篇文章的所有內容,感謝各位的閱讀!希望分享的內容對大家有幫助,更多相關知識,歡迎關注創新互聯行業資訊頻道!
網頁題目:python爬蟲怎么爬取微博熱搜
分享鏈接:http://vcdvsql.cn/article32/gjossc.html
成都網站建設公司_創新互聯,為您提供網站內鏈、、外貿網站建設、標簽優化、企業網站制作、用戶體驗
聲明:本網站發布的內容(圖片、視頻和文字)以用戶投稿、用戶轉載內容為主,如果涉及侵權請盡快告知,我們將會在第一時間刪除。文章觀點不代表本網站立場,如需處理請聯系客服。電話:028-86922220;郵箱:631063699@qq.com。內容未經允許不得轉載,或轉載時需注明來源: 創新互聯