現在的位置: 首頁 > 搜索技術 > 正文

爬蟲是什麼?python爬蟲難學嗎

2020年02月18日 搜索技術 ⁄ 共 886字 ⁄ 字型大小 評論關閉

  簡單來說互聯網是由一個個站點和網路設備組成的大網,我們通過瀏覽器訪問站點,站點把HTML、JS、CSS代碼返回給瀏覽器,這些代碼經過瀏覽器解析、渲染,將豐富多彩的網頁呈現我們眼前。

  爬蟲是什麼?

  如果我們把互聯網比作一張大的蜘蛛網,數據便是存放於蜘蛛網的各個節點,而爬蟲就是一隻小蜘蛛,沿著網路抓取自己的獵物(數據)爬蟲指的是:向網站發起請求,獲取資源後分析並提取有用數據的程序;從技術層面來說就是 通過程序模擬瀏覽器請求站點的行為,把站點返回的HTML代碼/JSON數據/二進位數據(圖片、視頻) 爬到本地,進而提取自己需要的數據,存放起來使用。

  爬蟲的基本流程

  用戶獲取網路數據的方式:

  方式1:瀏覽器提交請求--->下載網頁代碼--->解析成頁面。

  方式2:模擬瀏覽器發送請求(獲取網頁代碼)->提取有用的數據->存放於資料庫或文件中。

  爬蟲要做的就是方式2;發送請求-獲得響應內容-解析內容。

  發起請求

  使用http庫向目標站點發起請求,即發送一個Request。

  Request包含:請求頭、請求體等。

  Request模塊缺陷:不能執行JS 和CSS 代碼。

  獲取響應內容

  如果伺服器能正常響應,則會得到一個Response。

  Response包含:html,json,圖片,視頻等。

  解析內容

  解析html數據:正則表達式(RE模塊),第三方解析庫如Beautifulsoup,pyquery等。

  Python中爬蟲相關的包很多:urllib、requests、bs4、scrapy、pyspider 等,建議你從requests+Xpath 開始,requests 負責連接網站,返回網頁,Xpath 用於解析網頁,便於抽取數據。

  如果你用過 BeautifulSoup,會發現 Xpath 要省事不少,一層一層檢查元素代碼的工作,全都省略了。掌握之後,你會發現爬蟲的基本套路都差不多,一般的靜態網站根本不在話下,小豬、豆瓣、糗事百科、騰訊新聞等基本上都可以上手了。

  以上就是本文關於python爬蟲好學嗎的全部內容,希望對大家有所幫助。

抱歉!評論已關閉.