PHP全栈狼 2023-03-07 21:11 采纳率: 42.9%
浏览 8

swoole-php在httpclient上的高并发支持如何实现

实际应用类似于搜索引擎的蜘蛛,基于swoole框架开发,主要适用于自建搜索引擎,前期通过人工进行模拟蜘蛛进行批量索引

流程:(仅用于理想状态下描述)
1.公司共50名员工,每人一个任务台并且每人负责一个领域的网站索引
2.每个员工都在以1秒添加3个索引URL的速度,添加索引任务,1秒内50个员工共创建150个url待爬取
3.系统爬取为异步,无需即时返回,异步爬取完成后写db log即可

swoole官方支持了swoole_http_client,优势是支持大量并发
而我的索引方式为get post并抓取返回内容,内容存txt文本 日志存mysql

有人能给提供一下技术性指点和建议么,谢谢

  • 写回答

1条回答 默认 最新

  • CSDN-Ada助手 CSDN-AI 官方账号 2023-03-08 06:27
    关注
    不知道你这个问题是否已经解决, 如果还没有解决的话:

    如果你已经解决了该问题, 非常希望你能够分享一下解决方案, 写成博客, 将相关链接放在评论区, 以帮助更多的人 ^-^
    评论

报告相同问题?

问题事件

  • 创建了问题 3月7日

悬赏问题

  • ¥15 BP神经网络控制倒立摆
  • ¥20 要这个数学建模编程的代码 并且能完整允许出来结果 完整的过程和数据的结果
  • ¥15 html5+css和javascript有人可以帮吗?图片要怎么插入代码里面啊
  • ¥30 Unity接入微信SDK 无法开启摄像头
  • ¥20 有偿 写代码 要用特定的软件anaconda 里的jvpyter 用python3写
  • ¥20 cad图纸,chx-3六轴码垛机器人
  • ¥15 移动摄像头专网需要解vlan
  • ¥20 access多表提取相同字段数据并合并
  • ¥20 基于MSP430f5529的MPU6050驱动,求出欧拉角
  • ¥20 Java-Oj-桌布的计算