swcdxd 2011-03-04 15:16
浏览 386
已采纳

关于 http的ETag和last-modified的问题啊

最近在学习爬虫的相关知识啊,但是遇到了个问题,

比如我想爬取一个网站,

我先把这个网站的信息爬取下来

然后记录下来

等下次我再来爬取的时候,我先对比一下这个网页的ETag和last-modified的值如果没改变的话我就不用爬取了啊

但是我发下很多网站都没有ETag和last-modified属性

这怎么办啊。。。。。。。。。。。。。。

另外求大声能详细的讲解一下ETag和last-modified属性的意义啊

还有啊,为什么我自己弄的在tomcate上面的工程爬取下来也是没有这两个属性的啊。。。。。。。

谢谢了啊。。。。。。

  • 写回答

3条回答

  • maowei009 2011-03-04 17:25
    关注

    ETag是一个可以与Web资源关联的记号,通过它可利用客户端的缓存,一般把ETags和GET请求的“If-None-Match”头一起使用。服务器首先产生ETag,客户端则将他与页面一起缓存起来,服务器可在后面使用它来判断页面是否是同一个样的页面!像楼上说的一样,他是通过MD5来处理的,具体百度下吧~~ 其实你可以得到页面的大小来判断是否是同一个页面,但是不保险,偷懒的代价!

    本回答被题主选为最佳回答 , 对您是否有帮助呢?
    评论
查看更多回答(2条)

报告相同问题?

悬赏问题

  • ¥100 有人会搭建GPT-J-6B框架吗?有偿
  • ¥15 求差集那个函数有问题,有无佬可以解决
  • ¥15 【提问】基于Invest的水源涵养
  • ¥20 微信网友居然可以通过vx号找到我绑的手机号
  • ¥15 寻一个支付宝扫码远程授权登录的软件助手app
  • ¥15 解riccati方程组
  • ¥15 display:none;样式在嵌套结构中的已设置了display样式的元素上不起作用?
  • ¥15 使用rabbitMQ 消息队列作为url源进行多线程爬取时,总有几个url没有处理的问题。
  • ¥15 Ubuntu在安装序列比对软件STAR时出现报错如何解决
  • ¥50 树莓派安卓APK系统签名