jionlp数据分析 2017-08-25 10:44 采纳率: 0%
浏览 1890

Pyspider爬虫框架使用Docker部署分布式连接redis数据库,连不上?

问题是这样的,使用docker布置分布式爬虫,框架采用pyspider,消息队列使用redis数据库,但是却无法在数据库中显示消息信息,
消息队列中无信息
求解!

代码如下:
单点redis 虚拟机上命令行部署:ip 192.168.0.137

 docker run --name mysql -d -p 192.168.0.137:3306:3306 -e MYSQL_ROOT_PASSWORD=root1234 mysql:latest

docker run -d --name redis -p 192.168.0.137:6379:6379 --restart=always redis:latest

docker run --name phantomjs -m 512m -d -e EXCLUDE_PORTS=5000,23333,24444 -p 192.168.0.137:25555:5000 --restart=always cecil/pyspider:add_mysql

docker run --name phantomjs-lb -d --link phantomjs --restart=always dockercloud/haproxy:latest

docker run --name fetcher  -m 128m -d --link phantomjs-lb:phantomjs -e EXCLUDE_PORTS=5000,25555,23333 --restart=always cecil/pyspider:add_mysql \
 **--message-queue "redis://192.168.0.137:6379/1"** \
 --phantomjs-proxy "phantomjs:80" \
 fetcher --xmlrpc

docker run --name fetcher-lb -d --link fetcher --restart=always dockercloud/haproxy:latest

docker run --name processor -m 256m -d --restart=always cecil/pyspider:add_mysql \
 --projectdb "mysql+projectdb://root:root1234@192.168.0.137:3306/projectdb" \
 --message-queue "redis://192.168.0.137:6379/2"

docker run --name processor-lb -d --link processor --restart=always dockercloud/haproxy:latest

docker run --name scheduler -d -p 192.168.0.137:23333:23333 --restart=always cecil/pyspider:add_mysql \
 --taskdb "mysql+taskdb://root:root1234@192.168.0.137:3306/taskdb" \
 --resultdb "mysql+resultdb://root:root1234@192.168.0.137:3306/resultdb" \
 --projectdb "mysql+projectdb://root:root1234@192.168.0.137:3306/projectdb" \
 --message-queue "redis://192.168.0.137:6379/3" \
 scheduler --inqueue-limit 5000 --delete-time 43200

docker run --name result_worker -m 256m -d --restart=always cecil/pyspider:add_mysql \
 --taskdb "mysql+taskdb://root:root1234@192.168.0.137:3306/taskdb" \
 --resultdb "mysql+resultdb://root:root1234@192.168.0.137:3306/resultdb" \
 --projectdb "mysql+projectdb://root:root1234@192.168.0.137:3306/projectdb" \
 --message-queue "redis://192.168.0.137:6379/4"

docker run --name webui -m 256m -d -p 192.168.0.137:5000:5000 -e EXCLUDE_PORTS=24444,25555,23333 --link fetcher-lb:fetcher --restart=always cecil/pyspider:add_mysql \
 --taskdb "mysql+taskdb://root:root1234@192.168.0.137:3306/taskdb" \
 --resultdb "mysql+resultdb://root:root1234@192.168.0.137:3306/resultdb" \
 --projectdb "mysql+projectdb://root:root1234@192.168.0.137:3306/projectdb" \
 --message-queue "redis://192.168.0.137:6379/5" \
 webui --username "root" --password "123456" --need-auth --max-rate 0.2 --max-burst 2 --scheduler-rpc "http://192.168.0.137:23333/" --fetcher-rpc http://fetcher/

其中重点是若干redis数据库语句,

 --message-queue "redis://192.168.0.137:6379/4" 

是否有误?

  • 写回答

1条回答 默认 最新

  • devmiao 2017-08-25 15:54
    关注
    评论

报告相同问题?

悬赏问题

  • ¥15 执行 virtuoso 命令后,界面没有,cadence 启动不起来
  • ¥50 comfyui下连接animatediff节点生成视频质量非常差的原因
  • ¥20 有关区间dp的问题求解
  • ¥15 多电路系统共用电源的串扰问题
  • ¥15 slam rangenet++配置
  • ¥15 有没有研究水声通信方面的帮我改俩matlab代码
  • ¥15 ubuntu子系统密码忘记
  • ¥15 保护模式-系统加载-段寄存器
  • ¥15 电脑桌面设定一个区域禁止鼠标操作
  • ¥15 求NPF226060磁芯的详细资料