赶在日落之前 2021-11-26 23:27 采纳率: 14.3%
浏览 128
已结题

python批量更新mysql,还要注意避免溢出,处理千万级别的数据

业务场景:1我想要从一张表数据差不多两千万数据量,来获取某一个字段从而批量更新到另外一张表里,有相同的连接字段
2需要在极短的速度将千万数据更新进去,需要使用python来构建脚本,速度在秒级最好
3最好能分批次完成更新,因为数据量大,怕超过MySQL承载

  • 写回答

3条回答 默认 最新

  • ak01_10 2021-11-27 00:31
    关注

    秒级,应该做不到
    别说更新了,就说插入操作吧,假设两千万条数据已经加载到内存,现在执行插入操作,也不是几秒就能完成的。哪怕数据很简单,10w每秒也到顶了。
    除非你的数据有规律,可以进一步切分,进行多表存储。

    评论

报告相同问题?

问题事件

  • 系统已结题 12月4日
  • 创建了问题 11月26日

悬赏问题

  • ¥15 关于#java#的问题,请各位专家解答!
  • ¥15 急matlab编程仿真二阶震荡系统
  • ¥20 TEC-9的数据通路实验
  • ¥15 ue5 .3之前好好的现在只要是激活关卡就会崩溃
  • ¥50 MATLAB实现圆柱体容器内球形颗粒堆积
  • ¥15 python如何将动态的多个子列表,拼接后进行集合的交集
  • ¥20 vitis-ai量化基于pytorch框架下的yolov5模型
  • ¥15 如何实现H5在QQ平台上的二次分享卡片效果?
  • ¥30 求解达问题(有红包)
  • ¥15 请解包一个pak文件