liuyawen44 2016-10-02 12:55 采纳率: 37.5%
浏览 899

mongodb 怎么构建优先级爬虫

如题,网站URL我想设置优先级,从队列中获取URL时,想优先取出优先级高的URL队列,但是
不知道Mongdb如何优先取出,因为它的插入顺序好像是按时间排序的,难道每次取出的时候都要做一下排序吗?这样应该会影响性能吧。求各位大神解答!!小弟感激不尽!

  • 写回答

2条回答 默认 最新

  • Royal_lr 2016-10-03 03:32
    关注

    小数据量的话,排序性能忽略不计,,或者你可以增加一个字段属性设置优先级

    评论

报告相同问题?

悬赏问题

  • ¥60 求一个简单的网页(标签-安全|关键词-上传)
  • ¥35 lstm时间序列共享单车预测,loss值优化,参数优化算法
  • ¥15 基于卷积神经网络的声纹识别
  • ¥15 Python中的request,如何使用ssr节点,通过代理requests网页。本人在泰国,需要用大陆ip才能玩网页游戏,合法合规。
  • ¥100 为什么这个恒流源电路不能恒流?
  • ¥15 有偿求跨组件数据流路径图
  • ¥15 写一个方法checkPerson,入参实体类Person,出参布尔值
  • ¥15 我想咨询一下路面纹理三维点云数据处理的一些问题,上传的坐标文件里是怎么对无序点进行编号的,以及xy坐标在处理的时候是进行整体模型分片处理的吗
  • ¥15 CSAPPattacklab
  • ¥15 一直显示正在等待HID—ISP