weixin_43436453 2019-03-10 18:49 采纳率: 0%
浏览 511
已采纳

爬虫中正则表达式问题

爬取淘宝网页的商品价格信息 ,但是没有获取到商品信息,应该是正则表达式有问题,但是我不知道问题在哪……

import requests
import re
#访问并获取网页
def getHtmlText(url):
    try :
        r = request.get(url,timeout = 30)
        r.raise_for_status()
        r.encoding = r.apparent_encoding
        return r.text
    except:
        return ""
#解析网页,获取信息
def parserPage(ilt,html):
    try:
        plt = re.findall(r'\"view_price\"\:\"\d*\"',html)
        tlt = re.findall(r'\"raw_title\"\:\".*?\"',html)
        for i in range(len(plt)):
            price = eval(pat[i].split(':')[1])
            title = eval(tlt[i].split(':')[1])
            ilt.append([price,title])
    except:
        return 0
#打印信息
def printGoodList(lit):
    tplt = "{:4}\t{:8}\t{:16}"
    print(tplt.format("序号","价格","商品名称"))
    count = 0
    for g in lit:
        count = count + 1
        print(tplt.format(count,g[0],g[1]))

#主函数
def main():
    goods = '书包'
        #爬取网页的页数
    depth = 2  
    start_url = "https://s.taobao.com/search?q=" + goods
    infoList = []
    for i in range (depth):
        try :
            url = start_url + '&s='+ str(44*i)  
                        #页数标码为44,加44代表进下页
            html = getHtmlText(url)
            parsePage(infoList,html)
        except:
            continue

    printGoodList(infoList)


main()

小白求指点,谢谢

  • 写回答

2条回答 默认 最新

  • 瑶风 2019-03-11 16:26
    关注

    你可以用浏览器无痕模式按照你拼接的链接打开淘宝看看,淘宝浏览商品是需要先登录的,你没有任何跳过登录验证的代码啊

    本回答被题主选为最佳回答 , 对您是否有帮助呢?
    评论
查看更多回答(1条)

报告相同问题?

悬赏问题

  • ¥15 如何在scanpy上做差异基因和通路富集?
  • ¥20 关于#硬件工程#的问题,请各位专家解答!
  • ¥15 关于#matlab#的问题:期望的系统闭环传递函数为G(s)=wn^2/s^2+2¢wn+wn^2阻尼系数¢=0.707,使系统具有较小的超调量
  • ¥15 FLUENT如何实现在堆积颗粒的上表面加载高斯热源
  • ¥30 截图中的mathematics程序转换成matlab
  • ¥15 动力学代码报错,维度不匹配
  • ¥15 Power query添加列问题
  • ¥50 Kubernetes&Fission&Eleasticsearch
  • ¥15 報錯:Person is not mapped,如何解決?
  • ¥15 c++头文件不能识别CDialog