欧美18videosex性欧美tube1080,男人的天堂国产亚洲,美女极度色诱视频国产,欧美bbbbbbsbbbbbb,欧美不卡一区二区三区

python自學(xué)要學(xué)什么基礎(chǔ)：1、python的基礎(chǔ)語法，Python編程語言的變量、字符、常用運(yùn)算符、元組和集合等等;2、Python編程語言的面向?qū)ο螅@部分主要是學(xué)習(xí)從認(rèn)識面向?qū)ο蠛皖惖奶匦?，然后使用面向?qū)ο髴?yīng)用對遇到的異常進(jìn)行處理;3、Python的函數(shù)與模塊，這部分主要是學(xué)習(xí)函數(shù)的定義和標(biāo)準(zhǔn)模塊與第三方模塊、自定義包的實現(xiàn)等;4、Python的正則表達(dá)式，正則表達(dá)式是比較重要的，尤其是后面想從事爬蟲的小伙伴，一定要把正則表達(dá)式學(xué)學(xué)好哦;5、Python的內(nèi)存管理與多線程，主要是了解Python編程語言的機(jī)制和掌握Python多線程。

python語言從入門到精通:腳本在運(yùn)行之前會首先檢查python文件的最后編輯日期和預(yù)編譯模塊的編譯時間，從而決定是否需要重新編譯。預(yù)編譯模塊也是跨平臺的，所以不同的模塊是可以在不同的系統(tǒng)和不同的架構(gòu)之間共享的。Python在兩種情況下不檢查緩存。第一種，從命令行中直接加載的模塊總是會重新編譯并且結(jié)果不保存。第二種，如果沒有源模塊，則不會檢查緩存。為了支持無源代碼的部署方式，應(yīng)該將預(yù)編譯模塊放在源代碼文件夾中而不是__pycache__中，并且不要包含源代碼模塊。你可以使用-O和-OO參數(shù)來降低預(yù)編譯模塊的大小。-O開關(guān)會去除assert語句，-OO開關(guān)會去除assert語句和__doc__字符串。因為有些模塊要依賴這些語句，因此只有當(dāng)你確認(rèn)模塊的內(nèi)容時才去使用這些開關(guān)。優(yōu)化模塊的后綴名是.pyo。.pyo和.pyc文件的執(zhí)行速度不會比.py文件快，快的地方在于模塊加載的速度。compileall模塊可以用來把某個文件夾的中的所有文件都編譯成為.pyc或者.pyo文件。

python爬蟲技術(shù)的選擇:爬蟲又是另外一個領(lǐng)域，涉及的知識點比較多，不僅要熟悉web開發(fā)，有時候還涉及機(jī)器學(xué)習(xí)等知識，不過在python里一切變的簡單，有許多第三方庫來幫助我們實現(xiàn)。使用python編寫爬蟲首先要選擇合適的抓取模塊，最簡單的功能就是能發(fā)送和處理請求， 下面就介紹幾個常用的抓取的方式。一、python 自帶的urlib2和urlib或者第三方模塊requests:這種方案適合簡單的頁面爬蟲，比如爬取博客園推薦文章。urllib2和urllib是python自帶模塊可用來發(fā)送處理請求，雖然比較靈活但API易用性較差，所以一般都要進(jìn)行二次封裝，我曾經(jīng)也進(jìn)行過封裝，發(fā)現(xiàn)自己封裝出來的模塊無限趨近于非常成熟的requests庫，所以還是直接使用requests吧，當(dāng)然requests只發(fā)送和接受請求，對于頁面分析還要配合lxml或beautifulsoup等第三方庫進(jìn)行。高級點的爬蟲不僅僅是發(fā)送和處理請求，還需要處理異常，請求速度控制等問題，這就需要我們寫額外的代碼去控制，當(dāng)然我們可以自己寫只是時間問題，但完全沒有必要，接下來我會介紹第二種方案。二、scrapy框架:scrapy是爬蟲領(lǐng)取的佼佼者，目前我做的項目無論復(fù)雜與否，都采用scrapy進(jìn)行，對于請求調(diào)度，異常處理都已經(jīng)封裝好了，而且有第三方的scrapy-redis還可以支持分布式，我們把關(guān)注點放在更重要的頁面分析和規(guī)則編寫上，代碼可以參考我github上的例子。三、python selenium:這種方式我稱為終極必殺器，一般是實在沒辦法的時候才用，以前我在利用某家搜索引擎抓取文章時，該搜索引擎采用的比較高難度的反爬蟲機(jī)制而且不斷變化讓人找不到規(guī)律，最典型的特點就是cookie會隨機(jī)隱藏到某個頁面js和圖片中，解決方案就是模擬瀏覽器的行為加載所有js等靜態(tài)資源文件，如果自己寫個瀏覽器取解析太扯蛋了，如果chrome瀏覽器能開放接口，通過chrome的加載方式獲取頁面的內(nèi)容就好了，這就是selenium了，selenium加上隨機(jī)等待時間可以模擬出和人非常類似的操作行為，缺點就是速度較慢，但是一般爬蟲對抓取速度要求不高，重要的是穩(wěn)定性，這種方式對于抓取反爬蟲機(jī)制做的好的大型網(wǎng)站比較適用?？偨Y(jié)，對于大部分爬蟲需求直接用scrapy解決，如果解決不了再采用第一種或第三種方案，就這么簡單。