Python爬蟲之設置selenium webdriver等待
?
ajax技術出現使異步加載方式呈現數據的網站越來越多,當瀏覽器在加載頁面時,頁面上的元素可能并不是同時被加載完成,這給定位元素的定位增加了困難。
如果因為在加載某個元素時延遲而造成ElementNotVisibleException(不可見元素異常)的情況出現,那么就會降低自動化腳本的穩定性,設置元素等待可改善這種問題造成的不穩定。
一、強制等待
?強制等待是利用python語言自帶的time庫中的sleep()方法:
from
selenium
import
webdriver
from
time
import
sleep
def
test():
#
打開瀏覽器
driver =
webdriver.Firefox()
driver.get(
'
http://www.baidu.com
'
)
sleep(5
)
driver.quit()
sleep(5)會掛起這個腳本,五秒后再繼續執行,但是這種方式會導致這個腳本運行時間過長,不到萬不得已盡可能少用,特殊情況下,時間設置最好不超過1秒,一般0.5秒。
二、隱式等待
隱式等待:在腳本中我們一般看不到等待語句,但是它會在每個頁面加載的時候自動等待;隱式等待只需要聲明一次,一般在打開瀏覽器后進行聲明。聲明之后對整個drvier的生命周期都有效,后面不用重復聲明。?
設置一定的時長等待頁面上某元素加載完成,如果超出了設置的時長元素還沒有被加載,則拋出NoSuchElementException異常,沒有超過規定時間就繼續往下執行,WebDriver提供了implicitly_wait()方法來實現隱式等待,默認設置為0:
from
selenium
import
webdriver
def test
():
#
打開瀏覽器
driver =
webdriver.Firefox()
#
隱式等待 設置等待時間為10秒
driver.implicitly_wait(10
)
driver.get(
'
http://www.baidu.com
'
)
注意:隱式等待中,如果元素在規定時間內加載出來,也得繼續等待到規定的時間結束。
?
三、顯示等待
顯示等待:顯示等待必須在每個需要等待的元素前面進行聲明。
from
selenium
import
webdriver
from
selenium.webdriver.common.by
import
By
from
selenium.webdriver.support.ui
import
WebDriverWait
from
selenium.webdriver.support
import
expected_conditions as ec
def
test():
#
打開瀏覽器
driver =
webdriver.Firefox()
driver.get(
'
http://www.baidu.com
'
)
#
顯示等待
element = WebDriverWait(driver,5,0.5).until(ec.presence_of_all_elements_located((By.ID,
"
kw
"
)))
driver.find_element_by_id(
"
kw
"
).send_keys(
"
selenium
"
)
顯示等待需要用到兩個類:
WebDriverWait和expected_conditions兩個類。
1、WebDriverWait(driver,timeout,poll_frequency=0.5,ignored_exceptions=None)
屬性
driver:瀏覽器驅動
timeout:最長超時時間,默認以秒為單位
poll_frequency:檢測的間隔步長,默認為0.5s
ignored_exceptions:超時后的拋出的異常信息,默認拋出NoSuchElementExeception異常。
WebDriverWait()一般由until()或until_not()方法配合使用,下面是方法說明 :
until(method,message=
”)
method: 在等待期間,每隔一段時間(
__init__中的poll_frequency
)調用這個傳入的方法,直到返回值不是False
message: 如果超時,拋出TimeoutException,將message傳入異常
until_not(method,message
=
”)
與until相反,until是當某元素出現或什么條件成立則繼續執行,
until_not是當某元素消失或什么條件不成立則繼續執行,參數也相同。
?
2、expected_conditions類
各種類,達到某種條件,返回True和False
常用條件:
? ? ? ? ? ? ? ? ? ? ? ?條件 ? ? ? ? ? ? ? ? ? ? ? ? 說明
presence_of_element_located 判斷某個元素是否被加到了DOM樹里,并不代表該元素一定可見
visibility_of_element_located 判斷某個元素是否可見,可見代表元素非隱藏,并且元素的寬和高都不等于0
?
更多文章、技術交流、商務合作、聯系博主
微信掃碼或搜索:z360901061
微信掃一掃加我為好友
QQ號聯系: 360901061
您的支持是博主寫作最大的動力,如果您喜歡我的文章,感覺我的文章對您有幫助,請用微信掃描下面二維碼支持博主2元、5元、10元、20元等您想捐的金額吧,狠狠點擊下面給點支持吧,站長非常感激您!手機微信長按不能支付解決辦法:請將微信支付二維碼保存到相冊,切換到微信,然后點擊微信右上角掃一掃功能,選擇支付二維碼完成支付。
【本文對您有幫助就好】元

