Json數據怎么利用Python爬蟲進行爬取?相信很多沒有經驗的人對此束手無策,為此本文總結了問題出現的原因和解決方法,通過這篇文章希望你能解決這個問題。
創新互聯主營溫江網站建設的網絡公司,主營網站建設方案,app軟件開發,溫江h5小程序設計搭建,溫江網站營銷推廣歡迎溫江等地區企業咨詢該地址返回的響應內容為Json類型,其中紅框標記的項即為AI流轉率值:
實現代碼如下:
import requests import json import csv # 爬蟲地址 url = 'https://databank.yushanfang.com/api/ecapi?path=/databank/crowdFullLink/flowInfo&fromCrowdId=3312&beginTheDate=201810{}&endTheDate=201810{}&toCrowdIdList[0]=3312&toCrowdIdList[1]=3313&toCrowdIdList[2]=3314&toCrowdIdList[3]=3315' # 攜帶cookie進行訪問 headers = { 'Host':'databank.yushanfang.com', 'Referer':'https://databank.yushanfang.com/', 'Connection':'keep-alive', 'User-Agent':'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/63.0.3239.84 Safari/537.36', 'Cookie':'_tb_token_=iNkDeJLdM3MgvKjhsfdW; bs_n_lang=zh_CN; cna=aaj1EViI7x0CATo9kTKvjzgS; ck2=072de851f1c02d5c7bac555f64c5c66d; c_token=c74594b486f8de731e2608cb9526a3f2; an=5YWo5qOJ5pe25Luj5a6Y5pa55peX6Iiw5bqXOnpmeA%3D%3D; lg=true; sg=\"=19\"; lvc=sAhojs49PcqHQQ%3D%3D; isg=BPT0Md7dE_ic5Ie3Oa85RxaMxbLK3UqJMMiN6o5VjH8C-ZRDtt7aRXb3fXGEAVAP', } rows = [] for n in range(20, 31): row = [] row.append(n) for m in range (21, 32): if m < n + 1: row.append("") else: # 格式化請求地址,更換請求參數 reqUrl = url.format(n, m) # 打印本次請求地址 print(url) # 發送請求,獲取響應結果 response = requests.get(url=reqUrl, headers=headers, verify=False) text = response.text # 打印本次請求響應內容 print(text) # 將響應內容轉換為Json對象 jsonobj = json.loads(text) # 從Json對象獲取想要的內容 toCntPercent = jsonobj['data']['interCrowdInfo'][1]['toCntPercent'] # 生成行數據 row.append(str(toCntPercent)+"%") # 保存行數據 rows.append(row) # 生成Excel表頭 header = ['AI流轉率', '21', '22', '23', '24', '25', '26', '27', '28', '29', '30', '31'] # 將表頭數據和爬蟲數據導出到Excel文件 with open('D:\\res\\pachong\\tmall.csv', 'w', encoding='gb18030') as f : f_csv = csv.writer(f) f_csv.writerow(header) f_csv.writerows(rows)
分享標題:Json數據怎么利用Python爬蟲進行爬取-創新互聯
本文路徑:http://vcdvsql.cn/article28/phscp.html
成都網站建設公司_創新互聯,為您提供網站導航、外貿建站、手機網站建設、微信公眾號、企業建站、網站制作
聲明:本網站發布的內容(圖片、視頻和文字)以用戶投稿、用戶轉載內容為主,如果涉及侵權請盡快告知,我們將會在第一時間刪除。文章觀點不代表本網站立場,如需處理請聯系客服。電話:028-86922220;郵箱:631063699@qq.com。內容未經允許不得轉載,或轉載時需注明來源: 創新互聯