python爲什麼叫爬蟲？

爬蟲通常指的是網絡爬蟲，就是一種按照一定的規則，自動地抓取萬維網資訊的程序或者腳本。因爲python的腳本特性，python易於配置，對字元的處理也非常靈活，加上python有豐富的網絡抓取模組，所以兩者經常聯繫在一起。

在進入文章之前，我們首先需要知道什麼是爬蟲。爬蟲，即網絡爬蟲，大家可以理解爲在網絡上爬行的一隻蜘蛛，互聯網就比作一張大網，而爬蟲便是在這張網上爬來爬去的蜘蛛，如果它遇到自己的獵物（所需要的資源），那麼它就會將其抓取下來。比如它在抓取一個網頁，在這個網中他發現了一條道路，其實就是指向網頁的超連結，那麼它就可以爬到另一張網上來獲取數據。不容易理解的話其實可以透過下面的圖片進行理解：

因爲python的腳本特性，python易於配置，對字元的處理也非常靈活，加上python有豐富的網絡抓取模組，所以兩者經常聯繫在一起。Python爬蟲開發工程師,從網站某一個頁面(通常是首頁)開始，讀取網頁的內容，找到在網頁中的其它連結地址，然後透過這些連結地址尋找下一個網頁，這樣一直循環下去，直到把這個網站所有的網頁都抓取完爲止。如果把整個互聯網當成一個網站，那麼網絡蜘蛛就可以用這個原理把互聯網上所有的網頁都抓取下來。

作爲一門編程語言而言，Python是純粹的自由軟件，以簡潔清晰的語法和強制使用空白符進行語句縮進的特點從而深受程序員的喜愛。舉一個例子：完成一個任務的話，c語言一共要寫1000行代碼，java要寫100行，而python則只需要寫20行的代碼。使用python來完成編程任務的話編寫的代碼量更少，代碼簡潔簡短可讀性更強，一個團隊進行開發的時候讀別人的代碼會更快，開發效率會更高，使工作變得更加高效。

這是一門非常適合開發網絡爬蟲的編程語言，而且相比於其他靜態編程語言，Python抓取網頁文檔的接口更簡潔;相比於其他動態腳本語言，Python的urllib2包提供了較爲完整的訪問網頁文檔的API。此外，python中有優秀的第三方包可以高效實現網頁抓取，並可用極短的代碼完成網頁的標籤過濾功能。

python爬蟲的構架組成如下圖：　　

1、URL管理器：管理待爬取的url集合和已爬取的url集合，傳送待爬取的url給網頁下載器;

2、網頁下載器：爬取url對應的網頁，存儲成字元串，傳送給網頁解析器;

3、網頁解析器：解析出有價值的數據，存儲下來，同時補充url到URL管理器。

而python的工作流程則如下圖：

（Python爬蟲透過URL管理器，判斷是否有待爬URL，如果有待爬URL，透過調度器進行傳遞給下載器，下載URL內容，並透過調度器傳送給解析器，解析URL內容，並將價值數據和新URL列表透過調度器傳遞給應用程序，並輸出價值資訊的過程。）

Python是一門非常適合開發網絡爬蟲的編程語言，提供瞭如urllib、re、json、pyquery等模組，同時又有很多成型框架，如Scrapy框架、PySpider爬蟲系統等，本身又是十分的簡潔方便所以是網絡爬蟲首選編程語言！