最近爬搜狗里面微信的文章内容,爬几次就会出现“访问过于频繁”,并提示输入验证码,尝试过加降低爬取频率,加过动态代理、也添加了不同的header信息,但还是会出现这种问题。
另外,看网上好多人说加上代理这种屏蔽的问题都解决了,那是我加的代理有问题吗?我是买的【快代理】的开放代理,通过它的api会每次访问都生成一批新的代理,但是基本上所有代理都会显示“访问过于频繁”,是代理的问题吗?
搜狗搜索微信的爬取怎么样才能防止被限制啊
- 写回答
- 好问题 0 提建议
- 追加酬金
- 关注问题
- 邀请回答
-
1条回答 默认 最新
- threenewbee 2017-03-27 04:54关注
因为很多人都用这些代理做和你一样的勾当。也就是这个ip贩子把相同的代理ip贩卖给很多人。你虽然没有频繁,但是人家也在用,服务器当然视作频繁。
解决 无用评论 打赏 举报
悬赏问题
- ¥15 LiBeAs的带隙等于0.997eV,计算阴离子的N和P
- ¥15 关于#windows#的问题:怎么用WIN 11系统的电脑 克隆WIN NT3.51-4.0系统的硬盘
- ¥15 来真人,不要ai!matlab有关常微分方程的问题求解决,
- ¥15 perl MISA分析p3_in脚本出错
- ¥15 k8s部署jupyterlab,jupyterlab保存不了文件
- ¥15 ubuntu虚拟机打包apk错误
- ¥199 rust编程架构设计的方案 有偿
- ¥15 回答4f系统的像差计算
- ¥15 java如何提取出pdf里的文字?
- ¥100 求三轴之间相互配合画圆以及直线的算法