scrapy formdata提交模拟点击下一页的参数 翻页失败 200C

大概是知道什么原因了,但是还是找不到办法,有哪位大神碰到过么。
遇到问题的这个系统的分页是用asp.net的分页控件写的,我看很多道友都遇到这个情况,但不知道是怎么解决的。
f12 看到的所有需要提交的参数,我也都带上了,但就是翻不了页。
————————————————————————————————————————————————————
拜托各位大神帮忙看看,实在是困扰在下许多天了。
小弟新人,用的是scrapy爬取一个系统的网页数据,在模拟点击下一页的时候卡住了。
这个系统分页跳转他用的不是url,而是提交参数的形式。
我代码里写的参数基本上和浏览器看到的一样,同样也用postman测试是完全可以跳转的。
但就是在代码里的就是怎么都跳转不了。
(简言之就是,和页面请求一样的参数,代码里不行,但是postman里面可以。)
我有猜测,会不会是response的问题,但无从去验证。
图一是我代码里写的要提交的参数。
图三,四是浏览器页面跳转下一页需要提交的参数。
图五是我用postman提交相同参数却可以模拟跳转。
图片说明
图片说明
图片说明
图片说明
图片说明

3个回答

看你这提交的参数 这个分页应该是asp.net的分页控件写的
你应该还有个隐藏的参数没有提交
我之前也碰到过
最后改成了换成selenium 直接模拟点击
希望可以帮到你

weixin_38496078
Glaswen1020 我也查到了是这个情况 但是还是没办法解决。。。
2 年多之前 回复

他们帮不到你,不如把分给我吧 (0.0)

weixin_38496078
Glaswen1020 不行啊 肯定有人会知道的
2 年多之前 回复

前面几个参数在html里面都是有的,你实时获取一下,再post
应该就没问题了

Hed_geh0g
Hed_geh0g 应该是一个hidden的表单
大约 2 年之前 回复
Csdn user default icon
上传中...
上传图片
插入图片
抄袭、复制答案,以达到刷声望分或其他目的的行为,在CSDN问答是严格禁止的,一经发现立刻封号。是时候展现真正的技术了!
立即提问