1.场景描述
现有基础数据13w条,需循环通过第三方HTTP接口获取历史数据进行分析统计,意味着要发生13w次HTTP请求。接口请求速度还比较慢,平均每次请求需要1s,如果在单线程的情况下至少需要36个小时,目前我设计的是使用多线程每3w条作为一个任务进行请求,目前的消耗时间大概能减少到16小时左右,但效率还是太低了,有没有大佬有更好的解决方案的?求Help!!
2.部署环境
系统:CentOS7
配置:单CPU双核
现有基础数据13w条,需循环通过第三方HTTP接口获取历史数据进行分析统计,意味着要发生13w次HTTP请求。接口请求速度还比较慢,平均每次请求需要1s,如果在单线程的情况下至少需要36个小时,目前我设计的是使用多线程每3w条作为一个任务进行请求,目前的消耗时间大概能减少到16小时左右,但效率还是太低了,有没有大佬有更好的解决方案的?求Help!!
系统:CentOS7
配置:单CPU双核
使用线程池,容量为30就差不多,这样时间大概是130000/3600/15两个小时多一点吧,
线程看起来挺多其实还好因为你这个不是cpu密集的工作,时间都消耗在请求阻塞等待上了