大概是知道什么原因了,但是还是找不到办法,有哪位大神碰到过么。
遇到问题的这个系统的分页是用asp.net的分页控件写的,我看很多道友都遇到这个情况,但不知道是怎么解决的。
f12 看到的所有需要提交的参数,我也都带上了,但就是翻不了页。
————————————————————————————————————————————————————
拜托各位大神帮忙看看,实在是困扰在下许多天了。
小弟新人,用的是scrapy爬取一个系统的网页数据,在模拟点击下一页的时候卡住了。
这个系统分页跳转他用的不是url,而是提交参数的形式。
我代码里写的参数基本上和浏览器看到的一样,同样也用postman测试是完全可以跳转的。
但就是在代码里的就是怎么都跳转不了。
(简言之就是,和页面请求一样的参数,代码里不行,但是postman里面可以。)
我有猜测,会不会是response的问题,但无从去验证。
图一是我代码里写的要提交的参数。
图三,四是浏览器页面跳转下一页需要提交的参数。
图五是我用postman提交相同参数却可以模拟跳转。
scrapy formdata提交模拟点击下一页的参数 翻页失败
- 写回答
- 好问题 0 提建议
- 追加酬金
- 关注问题
- 邀请回答
-
2条回答
- malcolm0826 2017-06-27 06:32关注
看你这提交的参数 这个分页应该是asp.net的分页控件写的
你应该还有个隐藏的参数没有提交
我之前也碰到过
最后改成了换成selenium 直接模拟点击
希望可以帮到你解决 无用评论 打赏 举报
悬赏问题
- ¥15 执行 virtuoso 命令后,界面没有,cadence 启动不起来
- ¥50 comfyui下连接animatediff节点生成视频质量非常差的原因
- ¥20 有关区间dp的问题求解
- ¥15 多电路系统共用电源的串扰问题
- ¥15 slam rangenet++配置
- ¥15 有没有研究水声通信方面的帮我改俩matlab代码
- ¥15 ubuntu子系统密码忘记
- ¥15 信号傅里叶变换在matlab上遇到的小问题请求帮助
- ¥15 保护模式-系统加载-段寄存器
- ¥15 电脑桌面设定一个区域禁止鼠标操作