q245413856 2015-06-02 07:37 采纳率: 0%
浏览 2428

网页同一请求地址两次的网页显示不同，源码也不一致

本人最近在尝试网页抓取，发现当当店铺的商品列表页面每次请求的结果都不相同。
举个例子：韩都衣舍 = http://shop.dangdang.com/4609/list.html。
多次请求这个地址会发现每次的商品页数可能不同，源码也不同。实际结果就是明明应该有几十页的内容，却只显示有几页。这是什么原因导致呢？因为我是通过页面内的下一页来抓取下一页内容，这样的话必然导致抓取不足，甚至有时候明明下一页是第三页，却显示了第一页的内容，望解答，谢谢。
PS：可能表达不清，如需细节再补充

  • 写回答

3条回答

  • Go 旅城通票 2015-06-02 07:53
    关注

    自己用开发工具监视下请求头都有什么，你的webrequest对象都要加上这些请求头

    评论

报告相同问题？

悬赏问题

  • ¥15 运筹学排序问题中的在线排序
  • ¥15 关于docker部署flink集成hadoop的yarn，请教个问题 flink启动yarn-session.sh连不上hadoop，这个整了好几天一直不行，求帮忙看一下怎么解决
  • ¥30 求一段fortran代码用IVF编译运行的结果
  • ¥15 深度学习根据CNN网络模型，搭建BP模型并训练MNIST数据集
  • ¥15 lammps拉伸应力应变曲线分析
  • ¥15 C++ 头文件/宏冲突问题解决
  • ¥15 用comsol模拟大气湍流通过底部加热（温度不同）的腔体
  • ¥50 安卓adb backup备份子用户应用数据失败
  • ¥20 有人能用聚类分析帮我分析一下文本内容嘛
  • ¥15 请问Lammps做复合材料拉伸模拟，应力应变曲线问题