寫(xiě)了一個(gè)抓taobao圖片的爬蟲(chóng),全是用if,for,while寫(xiě)的,比較簡(jiǎn)陋,入門(mén)作品。
從網(wǎng)頁(yè)http://mm.taobao.com/json/request_top_list.htm?type=0&page=中提取taobao模特的照片。
# -*- coding: cp936 -*-
import urllib2
import urllib
mmurl=" http://mm.taobao.com/json/request_top_list.htm?type=0&page="
i=0#第二頁(yè)有個(gè)人的頁(yè)面沒(méi)圖片,會(huì)出現(xiàn)IO錯(cuò)誤
while i<15:
??????? url=mmurl+str(i)
??????? #print url #打印出列表的url
??????? up=urllib2.urlopen(url)#打開(kāi)頁(yè)面,存入句柄中
??????? cont=up.read()
??????? #print len(cont)#頁(yè)面的長(zhǎng)度
??????? ahref='
??????? pa=cont.find(ahref)#找出網(wǎng)頁(yè)鏈接的頭部位置
??????? pt=cont.find(target,pa)#找出網(wǎng)頁(yè)鏈接的尾部位置
??????? for a in range(0,20):#如才能不把20硬編碼進(jìn)去?如何找到文件結(jié)尾?
??????????????? urlx=cont[pa+len(ahref)-4:pt-2]#從頭部到尾部,將網(wǎng)頁(yè)鏈接存入變量
??????????????? if len(urlx) < 60:#如果網(wǎng)頁(yè)鏈接長(zhǎng)度適合【len()!!!!】
??????????????????? urla=urlx???? #那么就準(zhǔn)備將其打印出來(lái)
??????????????????? print urla??? #這是想要的model個(gè)人URL
??????????????????? #########以下開(kāi)始對(duì)model個(gè)人的URL進(jìn)行操作#########
??????????????????? mup=urllib2.urlopen(urla)#打開(kāi)model個(gè)人的頁(yè)面,存入句柄中
??????????????????? mcont=mup.read()#對(duì)model頁(yè)面的句柄進(jìn)行讀出操作,存入mcont字符串
??????????????????? imgh="
??????????????????? iph=mcont.find(imgh)#找出【圖片】鏈接的頭部位置
??????????????????? ipt=mcont.find(imgt,iph)#找出【圖片】鏈接的尾部位置
??????????????????? for b in range(0,10):#又是硬編碼????
??????????????????????????? mpic=mcont[iph:ipt+len(imgt)]#原始圖片鏈接,鏈接字符的噪聲太大
??????????????????????????? iph1=mpic.find("http")#對(duì)上面的鏈接再過(guò)濾一次
??????????????????????????? ipt1=mpic.find(imgt)? #同上
??????????????????????????? picx=mpic[iph1:ipt1+len(imgt)]
??????????????????????????? if len(picx)<150:#仍有一些URL是“http:ss.png>
??????????????????????????????????? pica=picx #【是len(picx)<100而不是picx!!】不然會(huì)不顯示
??????????????????????????????????? print pica
??????????????????????????????????? ############################
??????????????????????????????????? ###########開(kāi)始下載pica這個(gè)圖片
??????????????????????????????????? urllib.urlretrieve(pica,"pic\\tb"+str(i)+"x"+str(a)+"x"+str(b)+".jpg")??????????????????????????????????
??????????????????????????????????? ###########?? pica圖片下載完畢.(加上各循環(huán)體的數(shù)字,以免名字重復(fù))
??????????????????????????????????? ############################
??????????????????????????? iph=mcont.find(imgh,iph+len(imgh))#開(kāi)始下一個(gè)循環(huán)
??????????????????????????? ipt=mcont.find(imgt,iph)
??????????????????? ############model個(gè)人URL內(nèi)的【圖片鏈接】提取完畢##########
??????????????? pa=cont.find(ahref,pa+len(ahref))#將原來(lái)的頭部位作為起始點(diǎn),繼續(xù)向后找下一個(gè)頭部
??????????????? pt=cont.find(target,pa)#繼續(xù)找下一個(gè)尾部
??????? i+=1
更多文章、技術(shù)交流、商務(wù)合作、聯(lián)系博主
微信掃碼或搜索:z360901061
微信掃一掃加我為好友
QQ號(hào)聯(lián)系: 360901061
您的支持是博主寫(xiě)作最大的動(dòng)力,如果您喜歡我的文章,感覺(jué)我的文章對(duì)您有幫助,請(qǐng)用微信掃描下面二維碼支持博主2元、5元、10元、20元等您想捐的金額吧,狠狠點(diǎn)擊下面給點(diǎn)支持吧,站長(zhǎng)非常感激您!手機(jī)微信長(zhǎng)按不能支付解決辦法:請(qǐng)將微信支付二維碼保存到相冊(cè),切換到微信,然后點(diǎn)擊微信右上角掃一掃功能,選擇支付二維碼完成支付。
【本文對(duì)您有幫助就好】元

