sinat_41720061 2018-10-07 12:29 采纳率: 40%
浏览 2507
已采纳

为何爬取不了淘宝的数据?

 import requests
import re
def getHTMLtext(url):
    try:
        r = requests.get(url, timeout = 30)
        r.raise_for_status()
        r.encoding = r.apparent_encoding
        return r.text
    except:
        return ' '
def parsePage(clist, html):
    try:
        plt = re.findall(r'\'view_price\'\:\'[\d\.]*\' ' ,html)
        tlt = re.findall(r'\'raw_title\'\:\'.*?\' ' ,html)
        for i in range(len(plt)):
            price = eval(plt[i].split(':')[1])
            title = eval(tlt[i].split(':')[1])
            clist.append([price, title])
    except:
        print('')
    print(clist)
def printGoodslist(clist):
    tplt = '{:4}\t{:10}\t{:16}'
    print(tplt.format('序号','价格','商品名称'))
    count = 0
    for c in clist:
        count += 1
        print(tplt.format(count, c[0], c[1]))


def main():
    goods = '书包'
    depth = 2
    start_url = 'https://s.taobao.com/search?q=' + goods
    infolist = []
    for i in range(depth):
        try:
            url = start_url + '&s=' + str(44*i)
            html = getHTMLtext(url)
            parsePage(infolist, html)
        except:
            continue
    printGoodslist(infolist)
main()


打印出来其中的clist列表是空的,是不是正则表达式写错了?

  • 写回答

2条回答 默认 最新

  • .yi.ming. 2020-03-25 16:16
    关注

    这是之前北京理工大学的一个关于python爬虫入门的国家精品课里面的程序。代码本身没问题,但是现在淘宝网要登陆,所以并不是获取的商品的信息。
    print(html[2000:3000])可知“...为确保您账户的安全及正常使用,依《网络安全法》相关要求,6月1日起会员账户需绑定手机。如您还未绑定,请尽快完成,感谢您的理解及支持!...”跳出的是登陆页面。可以用京东的商品练习。

    本回答被题主选为最佳回答 , 对您是否有帮助呢?
    评论
查看更多回答(1条)

报告相同问题?

问题事件

  • 已采纳回答 9月27日

悬赏问题

  • ¥15 程序不包含适用于入口点的静态Main方法
  • ¥15 素材场景中光线烘焙后灯光失效
  • ¥15 请教一下各位,为什么我这个没有实现模拟点击
  • ¥15 执行 virtuoso 命令后,界面没有,cadence 启动不起来
  • ¥50 comfyui下连接animatediff节点生成视频质量非常差的原因
  • ¥20 有关区间dp的问题求解
  • ¥15 多电路系统共用电源的串扰问题
  • ¥15 slam rangenet++配置
  • ¥15 有没有研究水声通信方面的帮我改俩matlab代码
  • ¥15 ubuntu子系统密码忘记