import requests
import os
from lxml import etree
if __name__ == "__main__":
# 爬取页面源码数据
headers = {
'User-Agent': 'Mozilla/5.0 (Windows NT 6.3; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/63.0.3239.132 Safari/537.36'
} # UA伪装
url = 'https://item.jd.com/100021007440.html'
page_text = requests.get(url=url,headers = headers).text
# 手动设定响应数据的编码格式
# res = requests.get(url=url,headers = headers)
# res.encoding = 'utf-8'
# page_text = res.text
# 页面数据解析
tree = etree.HTML(page_text)
# 创建一个文件夹
if not os.path.exists('./jd_img'):
os.mkdir('./jd_img')
li_list = tree.xpath('//*[@id="spec-list"]//li')
for li in li_list:
#局部解析 获取src 与 alt
img_src = li.xpath('./img/@src')[0]
img_name = li.xpath('./img/@src')[0]+'.jpg'
# 通用处理中文乱码的解析方式
# img_name = img_name.encode('iso-8859-1').decode('gbk')
url = 'http:'+img_src
# 爬取图片数据content
pic_content = requests.get(url= url,headers = headers).content
#持久化存储
img_path = 'jd_img/' + img_name
fp = open(img_path,'wb')
fp.write(pic_content)
print(img_name,'下载成功')
爬取商品图片,alt中名字相同,执行后只有一张图,把改为src后就报错,
- 写回答
- 好问题 0 提建议
- 追加酬金
- 关注问题
- 邀请回答
-
2条回答 默认 最新
- CSDN专家-HGJ 2021-06-19 10:39关注
改成src后,图片名称这样写,img_name=img_src.split('/')[-1],代码中的写法有误。
本回答被题主选为最佳回答 , 对您是否有帮助呢?解决 无用评论 打赏 举报
悬赏问题
- ¥15 做个有关计算的小程序
- ¥15 MPI读取tif文件无法正常给各进程分配路径
- ¥15 如何用MATLAB实现以下三个公式(有相互嵌套)
- ¥30 关于#算法#的问题:运用EViews第九版本进行一系列计量经济学的时间数列数据回归分析预测问题 求各位帮我解答一下
- ¥15 setInterval 页面闪烁,怎么解决
- ¥15 如何让企业微信机器人实现消息汇总整合
- ¥50 关于#ui#的问题:做yolov8的ui界面出现的问题
- ¥15 如何用Python爬取各高校教师公开的教育和工作经历
- ¥15 TLE9879QXA40 电机驱动
- ¥20 对于工程问题的非线性数学模型进行线性化