欧美三区_成人在线免费观看视频_欧美极品少妇xxxxⅹ免费视频_a级毛片免费播放_鲁一鲁中文字幕久久_亚洲一级特黄

python讀取大文件越來越慢的原因與解決

系統 2467 0

背景:

今天同事寫代碼,用python讀取一個四五百兆的文件,然后做一串邏輯上很直觀的處理。結果處理了一天還沒有出來結果。問題出在哪里呢?

解決:

1. 同事打印了在不同時間點的時間,在需要的地方插入如下代碼:

            
print time.strftime('%Y-%m-%d %H:%M:%S',time.localtime(time.time())) 
          

發現一個規律,執行速度到后面時間越來越長,也就是處理速度越來越慢。

2. 為什么會越來越慢呢?

1)可能原因1,GC 的問題,有篇文章里面寫,python list append 的時候會越來越慢,解決方案是禁止GC:

使用 gc.disable()和gc.enable()

?2)改完上面,仍然不行,然后看到一篇文章里面寫,可能是因為 git 導致的,因為append 的時候 git 會不斷同步,會出問題,于是刪除 .git 文件夾,結果還是不行。

3)繼續查詢,發下一個及其有可能出問題的地方。dict 的 in dict.key(),判斷 key 是否在 dict 里面,這個的效率是非常低的。看到一篇文章比較了效率:

????????? ① 使用? in dict.keys() 效率:

python讀取大文件越來越慢的原因與解決_第1張圖片

????????? ② 使用 has_key()? 效率:

python讀取大文件越來越慢的原因與解決_第2張圖片

發現 has_key() 效率比較穩定。于是修改,問題解決。

后話:

最初的時候,的確是使用 has_key(), 結果后面上傳代碼的時候,公司代碼檢查過不了,提示不能使用這個函數,只能改成 in dict.key() 這種方式,為什么公司不讓這么傳呢?經過一番百度,發現原因所在:在 python3 中,直接將 has_key() 函數給刪除了,所以禁止使用。那禁止了該怎么辦呢?原來 python 中 in 很智能,能自動判斷 key 是否在字典中存在。所以最正規的做法不是 has_key(),?? 更不是 in dict.keys(), 而是 in dict.? 判斷 key 在 map 中,千萬別用 in dict.keys() !!!

附錄:

in、 in dict.keys()、 has_key() 方法實戰對比:

            
>>> a = {'name':"tom", 'age':10, 'Tel':110}
>>> a
{'age': 10, 'Tel': 110, 'name': 'tom'}
>>> print 'age' in a
True
>>> print 'age' in a.keys()
True
>>>
>>> print a.has_key("age")
True

          

總結

以上就是這篇文章的全部內容了,希望本文的內容對大家的學習或者工作具有一定的參考學習價值,謝謝大家對腳本之家的支持。

參考資料:

https://www.douban.com/group/topic/44472300/

http://www.it1352.com/225441.html

https://www.jb51.net/article/145424.htm


更多文章、技術交流、商務合作、聯系博主

微信掃碼或搜索:z360901061

微信掃一掃加我為好友

QQ號聯系: 360901061

您的支持是博主寫作最大的動力,如果您喜歡我的文章,感覺我的文章對您有幫助,請用微信掃描下面二維碼支持博主2元、5元、10元、20元等您想捐的金額吧,狠狠點擊下面給點支持吧,站長非常感激您!手機微信長按不能支付解決辦法:請將微信支付二維碼保存到相冊,切換到微信,然后點擊微信右上角掃一掃功能,選擇支付二維碼完成支付。

【本文對您有幫助就好】

您的支持是博主寫作最大的動力,如果您喜歡我的文章,感覺我的文章對您有幫助,請用微信掃描上面二維碼支持博主2元、5元、10元、自定義金額等您想捐的金額吧,站長會非常 感謝您的哦!!!

發表我的評論
最新評論 總共0條評論
主站蜘蛛池模板: 一区二区三区福利视频 | 免费电影av | 欧美午夜一区 | 色综合久久88色综合天天 | 锵锵锵锵锵锵锵锵锵好湿好大 | 国产全肉乱妇杂乱视频 | 超级碰在线视频 | 欧洲色吧 | 久久丝袜视频 | 亚洲精品男人天堂 | 亚洲精品久久久中文字幕 | 欧美日本国产VA高清CABAL | 日本三级韩国三级香港三级 | 亚洲线精品一区二区三区 | 久草资源在线视频 | 狠狠干夜夜操 | 国产一区二区三区久久久久久久久 | 亚洲精品国产综合一线久久 | 亚洲欧美中文日韩二区一区 | 欧美综合久久 | 欧美精品导航 | 毛片少妇爽到高潮特黄A片 六月色播 | 最新伦理片 | 色两性午夜视频免费观看 | 国产免费网址 | 国产精品美女一区二区 | 奇米影视四色中文字幕 | 免费的污污网站 | 污网站在线免费看 | 中文乱码一二三四有限公司 | 波多野结衣mxgs1124在线 | 中文字幕在线一区二区三区 | 亚洲国产视频网站 | 亚洲va国产va | 国产精品成人不卡在线观看 | 日本成日本片人免费 | 三级斤| 国产精品毛片久久久久久 | 欧美一级毛片在线 | 一级毛片一级毛片一级毛片一级毛片 | 亚洲视频不卡 |