全部版块 我的主页
论坛 数据科学与人工智能 数据分析与数据科学 python论坛
2209 1
2017-08-20
import requests
import re

urls = []
for i in list(range(1,51)):
    urls.append('https://rate.tmall.com/list_detail_rate.htm?itemId=523840172328&spuId=457482192&sellerId=2260385300&order=1&currentPage=%s'%i)

username=[]
auctionSku=[]
rateContent=[]
rateDate=[]
goldUser=[]

headers={'user-agent':'Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/60.0.3112.101 Safari/537.36',
    'accept-encoding':'gzip, deflate, br',
    'accept-language':'zh-CN,zh;q=0.8'
}

for url in urls:
    content = requests.get(url,headers=headers).text               

    username.extend(re.findall('"displayUserNick":"(.*?)"',content))
    auctionSku.extend(re.findall(re.compile('"auctionSku":"(.*?)","auctionTitle"'),content))
    rateContent.extend(re.findall(re.compile('"rateContent":"(.*?)","rateDate"'),content))
    rateDate.extend(re.findall(re.compile('"rateDate":"(.*?)","reply"'),content))
    goldUser.extend(re.findall(re.compile('"goldUser":(\w+),"id":'),content))
    print(username)

#然后打印每个字段的长度
a=[username,rateContent,rateDate,auctionSku,goldUser]
for i in range(5):
    print(len(a[i]))
上面的爬虫代码试了好几次,每次爬取后面打印出来的字段长度都不一样,正常打印出来是爬取的页数*每页的20条,但每次都少几页的样子,一会儿多一会儿少的,不知道这是我代码问题还是传说中天猫的反爬虫造成的,各位有经验的朋友麻烦指点指点,谢谢!!!

二维码

扫码加我 拉你入群

请注明:姓名-公司-职位

以便审核进群资格,未注明则拒绝

全部回复
2017-8-21 02:44:19
抽空研究下
二维码

扫码加我 拉你入群

请注明:姓名-公司-职位

以便审核进群资格,未注明则拒绝

栏目导航
热门文章
推荐文章

说点什么

分享

扫码加好友,拉您进群
各岗位、行业、专业交流群