欧美18videosex性欧美tube1080,男人的天堂国产亚洲,美女极度色诱视频国产,欧美bbbbbbsbbbbbb,欧美不卡一区二区三区

python爬蟲(chóng)技術(shù)的選擇:爬蟲(chóng)又是另外一個(gè)領(lǐng)域，涉及的知識(shí)點(diǎn)比較多，不僅要熟悉web開(kāi)發(fā)，有時(shí)候還涉及機(jī)器學(xué)習(xí)等知識(shí)，不過(guò)在python里一切變的簡(jiǎn)單，有許多第三方庫(kù)來(lái)幫助我們實(shí)現(xiàn)。使用python編寫爬蟲(chóng)首先要選擇合適的抓取模塊，最簡(jiǎn)單的功能就是能發(fā)送和處理請(qǐng)求， 下面就介紹幾個(gè)常用的抓取的方式。一、python 自帶的urlib2和urlib或者第三方模塊requests:這種方案適合簡(jiǎn)單的頁(yè)面爬蟲(chóng)，比如爬取博客園推薦文章。urllib2和urllib是python自帶模塊可用來(lái)發(fā)送處理請(qǐng)求，雖然比較靈活但API易用性較差，所以一般都要進(jìn)行二次封裝，我曾經(jīng)也進(jìn)行過(guò)封裝，發(fā)現(xiàn)自己封裝出來(lái)的模塊無(wú)限趨近于非常成熟的requests庫(kù)，所以還是直接使用requests吧，當(dāng)然requests只發(fā)送和接受請(qǐng)求，對(duì)于頁(yè)面分析還要配合lxml或beautifulsoup等第三方庫(kù)進(jìn)行。高級(jí)點(diǎn)的爬蟲(chóng)不僅僅是發(fā)送和處理請(qǐng)求，還需要處理異常，請(qǐng)求速度控制等問(wèn)題，這就需要我們寫額外的代碼去控制，當(dāng)然我們可以自己寫只是時(shí)間問(wèn)題，但完全沒(méi)有必要，接下來(lái)我會(huì)介紹第二種方案。二、scrapy框架:scrapy是爬蟲(chóng)領(lǐng)取的佼佼者，目前我做的項(xiàng)目無(wú)論復(fù)雜與否，都采用scrapy進(jìn)行，對(duì)于請(qǐng)求調(diào)度，異常處理都已經(jīng)封裝好了，而且有第三方的scrapy-redis還可以支持分布式，我們把關(guān)注點(diǎn)放在更重要的頁(yè)面分析和規(guī)則編寫上，代碼可以參考我github上的例子。三、python selenium:這種方式我稱為終極必殺器，一般是實(shí)在沒(méi)辦法的時(shí)候才用，以前我在利用某家搜索引擎抓取文章時(shí)，該搜索引擎采用的比較高難度的反爬蟲(chóng)機(jī)制而且不斷變化讓人找不到規(guī)律，最典型的特點(diǎn)就是cookie會(huì)隨機(jī)隱藏到某個(gè)頁(yè)面js和圖片中，解決方案就是模擬瀏覽器的行為加載所有js等靜態(tài)資源文件，如果自己寫個(gè)瀏覽器取解析太扯蛋了，如果chrome瀏覽器能開(kāi)放接口，通過(guò)chrome的加載方式獲取頁(yè)面的內(nèi)容就好了，這就是selenium了，selenium加上隨機(jī)等待時(shí)間可以模擬出和人非常類似的操作行為，缺點(diǎn)就是速度較慢，但是一般爬蟲(chóng)對(duì)抓取速度要求不高，重要的是穩(wěn)定性，這種方式對(duì)于抓取反爬蟲(chóng)機(jī)制做的好的大型網(wǎng)站比較適用?？偨Y(jié)，對(duì)于大部分爬蟲(chóng)需求直接用scrapy解決，如果解決不了再采用第一種或第三種方案，就這么簡(jiǎn)單。