這篇文章將為大家詳細講解有關使用PHP怎么對百度閱讀進行抓取,文章內容質量較高,因此小編分享給大家做個參考,希望大家閱讀完這篇文章后對相關知識有一定的了解。
成都創新互聯從2013年創立,是專業互聯網技術服務公司,擁有項目網站設計制作、做網站網站策劃,項目實施與項目整合能力。我們以讓每一個夢想脫穎而出為使命,1280元漣水做網站,已為上家服務,為漣水各地企業和個人服務,聯系電話:028-86922220抓取方法如下
首先在瀏覽器里打開閱讀頁面,查看源代碼后發現小說的內容并不是直接寫在頁面里的,也就是說小說的內容是通過異步加載而來的。
于是將chrome的開發者工具切到network一欄,刷新閱讀頁面,主要關注的是XHR和script兩個分類下。
經過排查,發現在script分類下有個jsonp請求比較像是小說內容,請求的地址是
/tupian/20230522/49422a3769eae009581becba div等等,c屬性就是內容了,但也有兩種可能,一個是字符串,另一個是數組,數組的每個元素都是一個節點。
這種結構好解析了,用一個遞歸就搞定
最終代碼如下:
<?php class BaiduYuedu { protected $bookId; protected $bookToken; protected $cookie; protected $result; public function __construct($bookId, $bookToken, $cookie){ $this->bookId = $bookId; $this->bookToken = $bookToken; $this->cookie = $cookie; } public static function parseNode($node){ $str = ''; if(is_string($node['c'])){ $str .= $node['c']; }else if(is_array($node['c'])){ foreach($node['c'] as $d){ $str .= self::parseNode($d); } } switch($node['t']){ case 'h3': $str .= "\n\n"; break; case 'br': case 'div': case 'p': $str .= "\n"; break; case 'img': case 'span': break; case 'obj': $tmp = '(' . self::parseNode($node['data'][0]) . ')'; $str .= str_replace("\n", '', $tmp); break; default: trigger_error('Unkown type:'.$node['t'], E_USER_WARNING); break; } return $str; } public function get($page = 1){ echo "getting page {$page}...\n"; $ch = curl_init(); $url = sprintf('http://wenku.baidu.com/content/%s/?m=%s&type=json&cn=%d', $this->bookId, $this->token, $page); curl_setopt_array($ch, array( CURLOPT_URL => $url, CURLOPT_RETURNTRANSFER => 1, CURLOPT_HEADER => 0, CURLOPT_HTTPHEADER => array('Cookie: '. $this->cookie) )); $ret = json_decode(curl_exec($ch), true); curl_close($ch); $str = ''; if(!empty($ret)){ $str .= self::parseNode($ret); $str .= $this->get($page + 1); } return $str; } public function start(){ $this->result = $this->get(); } public function getResult(){ return $this->result; } public function saveTo($path){ if(empty($this->result)){ trigger_error('Result is empty', E_USER_ERROR); return; } file_put_contents($path, $this->result); echo "save to {$path}\n"; } } //使用示例 $yuedu = new BaiduYuedu('49422a3769eae009581becba', '8ed1dedb240b11bf0731336eff95093f', '你的百度域cookie'); $yuedu->start(); $yuedu->saveTo('result.txt');
這個類前兩個參數可以從小說的介紹頁面獲得,第一個參數bookId
就是url
里ebook
后面跟著的字符串,第二個參數bookToken
在頁面源代碼搜索bdjsonUrl
,m
參數后面的那個字符串就是。
注:如果不傳入百度cookie
或者百度cookie
無效,則只能抓取免費閱讀部分,要抓完整的內容必須保證cookie
可以正常使用。
關于使用PHP怎么對百度閱讀進行抓取就分享到這里了,希望以上內容可以對大家有一定的幫助,可以學到更多知識。如果覺得文章不錯,可以把它分享出去讓更多的人看到。
文章名稱:使用PHP怎么對百度閱讀進行抓取-創新互聯
瀏覽地址:http://vcdvsql.cn/article48/hsehp.html
成都網站建設公司_創新互聯,為您提供定制開發、虛擬主機、Google、網站改版、網站制作、動態網站
聲明:本網站發布的內容(圖片、視頻和文字)以用戶投稿、用戶轉載內容為主,如果涉及侵權請盡快告知,我們將會在第一時間刪除。文章觀點不代表本網站立場,如需處理請聯系客服。電話:028-86922220;郵箱:631063699@qq.com。內容未經允許不得轉載,或轉載時需注明來源: 創新互聯