mysql从一个txt文件中 插入1200w条数据,如何编写sql语句,使得效率最高

mysql从一个txt文件中 插入1200w条数据,如何编写sql语句,使得效率最高,所用时间最短。

5个回答

txt文件中只存具体的数据,然后用sql语句LOAD DATA... INFILE

这个是基于zblogphp的写法,安装zblogphp,在根目录新建一个php复制以下代码。

 <?php
require 'zb_system/function/c_system_base.php';
$zbp->Load();
$qqmail_Table='%pre%qqmail';
$qqmail_DataInfo=array(
    'ID'=>array('tc_id','integer','',0),
    'email'=>array('tc_email','string',255,''),
);
$file = fopen("qqemail.txt", "r");
$user=array();$i=0;$j=1;
$qqmail_Tablea=$qqmail_Table.$j;
$s=$zbp->db->sql->CreateTable($GLOBALS['qqmail_Tablea'],$GLOBALS['qqmail_DataInfo']);
$zbp->db->QueryMulit($s);
print_r("第1批数据已开始入库<BR>");
while(! feof($file))
{
        $user[$i]= fgets($file);
        $r = new Base($GLOBALS['qqmail_Tablea'],$GLOBALS['qqmail_DataInfo']);
        $r->email=$user[$i];
        $r->Save();
        $i++;
        if($i%20==0){
            print_r("第".$j."批数据已保存入库<BR>");
            $j++;
            $qqmail_Tablea=$qqmail_Table.$j;
            $s=$zbp->db->sql->CreateTable($GLOBALS['qqmail_Tablea'],$GLOBALS['qqmail_DataInfo']);
            $zbp->db->QueryMulit($s);
            print_r("第".$j."批数据已开始入库<BR>");
        }
}
fclose($file);
$user=array_filter($user);
print_r("录入完毕end");
?>

当然,你也可以改改,改成及时观看写入动态的那种。

chengniantuo4350
destiny97 谢谢!如果只是使用sql语句呢,有什么好办法
2 年多之前 回复

sql的话用mybatis比较好 将读出来的数据变为 List 存起来
下面是我以前的一个列子如果只是添加没判断,也就7八分钟

ecmMapper.insertEshopData(list);


replace into ecm_shop (
shop_id,
platform_id,
team_id,
team_name,
shop_name,
product_amount,
shipping_amount,
published_quantity,
online_quantity,
order_quantity,
created_on
) values
separator=",">
(
#{item.shop_id},#{item.platform_id},
#{item.team_id},#{item.team_name},#{item.shop_name},#{item.product_amount},
#{item.shipping_amount},#{item.published_quantity},
#{item.online_quantity},#{item.order_quantity},#{item.created_on}
)

</insert>

上面少了一句,再调用那个方法下面

图片说明完整语句传不上去,看图片吧

Csdn user default icon
上传中...
上传图片
插入图片
抄袭、复制答案,以达到刷声望分或其他目的的行为,在CSDN问答是严格禁止的,一经发现立刻封号。是时候展现真正的技术了!
其他相关推荐
mysql插入数据,sql语句中时间正确,插入数据库过程中
mysql插入数据,sql语句中时间正确,插入数据库过程中,偶尔会保存的时间和SQL的时间相差8小时。
mysql中插入数据的问题,在线等
mysql中怎样向视图表中插入数据,或者是一条sql语句同时插入数据到多张物理表中,怎样实现,在线等?!
Python读取txt文本文件数据插入到数据库中,数据库中只有txt中最后一行数据
Python读取本地txt文本文件,将数据插入数据库表中,代码在下面,运行数据都能读取出来,但是不知道为什么数据库表中只有txt文件的最后一行数据,求问解决办法 ``` import MySQLdb # 连接mysql数据库 conn = MySQLdb.connect(host='localhost', port=3306, user='root', passwd='root', db='test21', charset='utf8') cur = conn.cursor() with open('b.txt', 'rb') as f: lines = f.readlines() if lines: for line in lines: print line line = line.strip('\n') line = line.split() # id+=1 dt = line[0] uid = line[1] cn = line[2] # cn=cn.decode('gbk').encode('utf-8') org = line[3] # print cn # 将数据插入mysql数据库 cur.execute("DROP TABLE IF EXISTS a") cur.execute("CREATE TABLE a ( dt varchar(255) NOT NULL, uid varchar(255) NOT NULL,cn varchar(255) NOT NULL,org varchar(255) NOT NULL )") cur.execute("insert into a(dt,uid,cn,org) values(%s,%s,%s,%s)", line) conn.commit() print('Total:'+str(len(lines))) print('write to mysql success') conn.close() ```
sql语句 插入A表中一条新的数据同时将获取的主键值插入到B表(用的是mysql数据库)
sql语句 插入A表中一条新的数据同时将获取的主键值插入到B表(用的是mysql数据库)
mybatis mysql 批量插入数据
最近在网上学的jsoup爬数据,爬了大概几万条城市地区的数据准备通过mybatis插入的mysql里,九个字段除了ID,其它都是varchar类型,区划代码是十二位数字暂时也是用的varchar; 想过三种插入方式 1:service层循环调用dao层插入数据,一条一条来 2:拼接sql类似 insert into citytable (province,...) select ... union all select ... union all 在后台先拼接几百条然后插入 3:xml里用foreach循环插入 请问有其它方法可以快速插入数据吗?求学中,路过的大神请多指教
关于向mysql数据库中插入数据的提问
第一个问题,如果向数据库中插入十万条数据,怎么做,网上看了些,没有思路。 第二个问题,就是关于用ajax+json+mysql的向mysql数据库传输数据大佬们有源码吗,大家都是初学者过来的,不太懂,请指教
16条线程100w条数据通过处理后得到4种形式的50w条数据分别插入4张表中,怎么安排16条线程的工作使得总花费时间最短?
假设100w条数据,经过处理后的到 1类 100w条数据需要入A表, 2类 100w条数据需要入B表, 3类 100w条数据需要入C表, 4类 100w条数据需要入D表. 目前本人想到的方案有两个 (1)16条线程,给每个表分配4条线程,每条线程分配25w条 (2) 给A表分配16条线程,每条线程6.25,待A表任务结束后,16条线程分配给B表 想问一下,1,2两个方案有何区别?那个方案会更好?为什么?还有其他更好的方案吗?
MySQL数据库能转换成SQLServer吗?我有一个MySQL的脚本文件怎么才能在SQLServer里操作
MySQL数据库能转换成SQLServer吗?我有一个MySQL的脚本文件怎么才能在SQLServer里操作
mysql定时任务 插入数据,记录插入条数,成功条数,插入时间,等操作。
mysql定时任务 插入数据,记录插入条数,成功条数,插入时间,等操作。 存储过程的实现,希望知道的告诉下,真正的对我有帮助,不然不要在说教了那些没有帮助的。
使用SSM框架 将mysql数据库中建立的表的数据插入到postgresql数据库中的同名表内。求一个demo
SSM框架实现 从mysql数据库读取数据插入到空间数据库(postgresql) 求一个demo
php插入到mysql数据库中文乱码,数据库中的中文可以正常显示
php网页中文数据插入到mysql数据库乱码,数据库中的中文数据可以在网页上正常显示。 php文件开头有header("Content-Type: text/html; charset=utf-8"); 使用PHP MySQL UPDATE之前有 mysql_query("set names 'utf8'",$conn); php文件以utf-8格式编码,phpmyadmin中数据库和数据表均选择了utf8-general-ci。
怎样将txt数据读入mysql中
我是一个初学者,想用C#语句将网上读取的气温数据保存在txt中,现在要读入数据库中,用的是mysql,不知道具体操作步骤以及可以编写的代码。代码在哪里写?在visual2010中还是在sql中编,还有用什么代码
关于mysql中数据插入时间过慢问题
目前往MySQL中一次性插入大约一万五千条数据,每条数据九百多列,总共需要十分钟左右,请问时间是否过慢,如果过慢该如何解决?
MySQL怎么获取最新数据
MySQL怎么得到刚刚插入数据库的整条数据,SQL语句,不是得到刚插入数据的id,而是整条数据
mysql插入txt文档数据,如果文件是两列,有些行的第二列没有内容,如何插入?
原本的文件很乱,用java处理后,大部分行的数据都是两列,但有些数据只有第一列有数据,第二列就没有内容,也没有tab分割。这个情况,如何使用sql语句进行插入。使第二列的数据为空或者丢弃这一列。
mysql触发器 在A表中修改了某列 则自动向B表插入一条数据?请问该如何写?
mysql触发器 在A表中修改了某列 则自动向B表插入一条数据?请问该如何写?
MFC向mysql中插入数据失败
MFC向mysql中插入(删除,更新)数据失败,但是查询是可以成功的,将我的插入语句 在navicat for mysql中执行是可以正常插入的:INSERT INTO student VALUES ('111','xzf') 求大神指导,谢谢!(据说是权限什么的问题,不太懂)
批量导入txt文件到mysql
共享文件夹每天都会产生大量执行sql脚本生成的txt数据,不同文件不同表名,表明和文件名一样!txt文档都是一行为一条数据,编码统一为utf8或者gbk。 如何写一个脚本实现每天自动运行扫描共享文件夹将新生成的文件导入到mysql对应的表中?
java web mysql数据库插入数据异常
最近在用java开发做毕业设计,在插入商品数据的时候,在网页插入了一条数据卡了一下,然后 查看数据库发现竟然插入了三条一样的数据。再然后我又插入了一条数据,插入的时候 没有卡一下,然后查看数据库,发现正常地插入了一条。各位大神谁能解释一下为什么? 还有怎么解决?我商品id是自增长的,用spring管理事务。
相见恨晚的超实用网站
搞学习 知乎:www.zhihu.com 简答题:http://www.jiandati.com/ 网易公开课:https://open.163.com/ted/ 网易云课堂:https://study.163.com/ 中国大学MOOC:www.icourse163.org 网易云课堂:study.163.com 哔哩哔哩弹幕网:www.bilibili.com 我要自学网:www.51zxw
花了20分钟,给女朋友们写了一个web版群聊程序
参考博客 [1]https://www.byteslounge.com/tutorials/java-ee-html5-websocket-example
爬虫福利二 之 妹子图网MM批量下载
爬虫福利一:27报网MM批量下载    点击 看了本文,相信大家对爬虫一定会产生强烈的兴趣,激励自己去学习爬虫,在这里提前祝:大家学有所成! 目标网站:妹子图网 环境:Python3.x 相关第三方模块:requests、beautifulsoup4 Re:各位在测试时只需要将代码里的变量 path 指定为你当前系统要保存的路径,使用 python xxx.py 或IDE运行即可。
字节跳动视频编解码面经
引言 本文主要是记录一下面试字节跳动的经历。 三四月份投了字节跳动的实习(图形图像岗位),然后hr打电话过来问了一下会不会opengl,c++,shador,当时只会一点c++,其他两个都不会,也就直接被拒了。 七月初内推了字节跳动的提前批,因为内推没有具体的岗位,hr又打电话问要不要考虑一下图形图像岗,我说实习投过这个岗位不合适,不会opengl和shador,然后hr就说秋招更看重基础。我当时
开源一个功能完整的SpringBoot项目框架
福利来了,给大家带来一个福利。 最近想了解一下有关Spring Boot的开源项目,看了很多开源的框架,大多是一些demo或者是一个未成形的项目,基本功能都不完整,尤其是用户权限和菜单方面几乎没有完整的。 想到我之前做的框架,里面通用模块有:用户模块,权限模块,菜单模块,功能模块也齐全了,每一个功能都是完整的。 打算把这个框架分享出来,供大家使用和学习。 为什么用框架? 框架可以学习整体
Java学习的正确打开方式
在博主认为,对于入门级学习java的最佳学习方法莫过于视频+博客+书籍+总结,前三者博主将淋漓尽致地挥毫于这篇博客文章中,至于总结在于个人,实际上越到后面你会发现学习的最好方式就是阅读参考官方文档其次就是国内的书籍,博客次之,这又是一个层次了,这里暂时不提后面再谈。博主将为各位入门java保驾护航,各位只管冲鸭!!!上天是公平的,只要不辜负时间,时间自然不会辜负你。 何谓学习?博主所理解的学习,它
程序员必须掌握的核心算法有哪些?
由于我之前一直强调数据结构以及算法学习的重要性,所以就有一些读者经常问我,数据结构与算法应该要学习到哪个程度呢?,说实话,这个问题我不知道要怎么回答你,主要取决于你想学习到哪些程度,不过针对这个问题,我稍微总结一下我学过的算法知识点,以及我觉得值得学习的算法。这些算法与数据结构的学习大多数是零散的,并没有一本把他们全部覆盖的书籍。下面是我觉得值得学习的一些算法以及数据结构,当然,我也会整理一些看过
Python——画一棵漂亮的樱花树(不同种樱花+玫瑰+圣诞树喔)
最近翻到一篇知乎,上面有不少用Python(大多是turtle库)绘制的树图,感觉很漂亮,我整理了一下,挑了一些我觉得不错的代码分享给大家(这些我都测试过,确实可以生成喔~) one 樱花树 动态生成樱花 效果图(这个是动态的): 实现代码 import turtle as T import random import time # 画樱花的躯干(60,t) def Tree(branch
深深的码丨Java HashMap 透析
HashMap 相关概念 HashTab、HashMap、TreeMap 均以键值对像是存储或操作数据元素。HashTab继承自Dictionary,HashMap、TreeMap继承自AbstractMap,三者均实现Map接口 **HashTab:**同步哈希表,不支持null键或值,因为同步导致性能影响,很少被使用 **HashMap:**应用较多的非同步哈希表,支持null键或值,是键值对...
大学四年自学走来,这些私藏的实用工具/学习网站我贡献出来了
大学四年,看课本是不可能一直看课本的了,对于学习,特别是自学,善于搜索网上的一些资源来辅助,还是非常有必要的,下面我就把这几年私藏的各种资源,网站贡献出来给你们。主要有:电子书搜索、实用工具、在线视频学习网站、非视频学习网站、软件下载、面试/求职必备网站。 注意:文中提到的所有资源,文末我都给你整理好了,你们只管拿去,如果觉得不错,转发、分享就是最大的支持了。 一、电子书搜索 对于大部分程序员...
linux系列之常用运维命令整理笔录
本博客记录工作中需要的linux运维命令,大学时候开始接触linux,会一些基本操作,可是都没有整理起来,加上是做开发,不做运维,有些命令忘记了,所以现在整理成博客,当然vi,文件操作等就不介绍了,慢慢积累一些其它拓展的命令,博客不定时更新 顺便拉下票,我在参加csdn博客之星竞选,欢迎投票支持,每个QQ或者微信每天都可以投5票,扫二维码即可,http://m234140.nofollow.ax.
Python 基础(一):入门必备知识
目录1 标识符2 关键字3 引号4 编码5 输入输出6 缩进7 多行8 注释9 数据类型10 运算符10.1 常用运算符10.2 运算符优先级 1 标识符 标识符是编程时使用的名字,用于给变量、函数、语句块等命名,Python 中标识符由字母、数字、下划线组成,不能以数字开头,区分大小写。 以下划线开头的标识符有特殊含义,单下划线开头的标识符,如:_xxx ,表示不能直接访问的类属性,需通过类提供
程序员接私活怎样防止做完了不给钱?
首先跟大家说明一点,我们做 IT 类的外包开发,是非标品开发,所以很有可能在开发过程中会有这样那样的需求修改,而这种需求修改很容易造成扯皮,进而影响到费用支付,甚至出现做完了项目收不到钱的情况。 那么,怎么保证自己的薪酬安全呢? 我们在开工前,一定要做好一些证据方面的准备(也就是“讨薪”的理论依据),这其中最重要的就是需求文档和验收标准。一定要让需求方提供这两个文档资料作为开发的基础。之后开发
网页实现一个简单的音乐播放器(大佬别看。(⊙﹏⊙))
今天闲着无事,就想写点东西。然后听了下歌,就打算写个播放器。 于是乎用h5 audio的加上js简单的播放器完工了。 欢迎 改进 留言。 演示地点跳到演示地点 html代码如下`&lt;!DOCTYPE html&gt; &lt;html&gt; &lt;head&gt; &lt;title&gt;music&lt;/title&gt; &lt;meta charset="utf-8"&gt
Python十大装B语法
Python 是一种代表简单思想的语言,其语法相对简单,很容易上手。不过,如果就此小视 Python 语法的精妙和深邃,那就大错特错了。本文精心筛选了最能展现 Python 语法之精妙的十个知识点,并附上详细的实例代码。如能在实战中融会贯通、灵活使用,必将使代码更为精炼、高效,同时也会极大提升代码B格,使之看上去更老练,读起来更优雅。 1. for - else 什么?不是 if 和 else 才
数据库优化 - SQL优化
前面一篇文章从实例的角度进行数据库优化,通过配置一些参数让数据库性能达到最优。但是一些“不好”的SQL也会导致数据库查询变慢,影响业务流程。本文从SQL角度进行数据库优化,提升SQL运行效率。 判断问题SQL 判断SQL是否有问题时可以通过两个表象进行判断: 系统级别表象 CPU消耗严重 IO等待严重 页面响应时间过长
2019年11月中国大陆编程语言排行榜
2019年11月2日,我统计了某招聘网站,获得有效程序员招聘数据9万条。针对招聘信息,提取编程语言关键字,并统计如下: 编程语言比例 rank pl_ percentage 1 java 33.62% 2 c/c++ 16.42% 3 c_sharp 12.82% 4 javascript 12.31% 5 python 7.93% 6 go 7.25% 7
通俗易懂地给女朋友讲:线程池的内部原理
餐厅的约会 餐盘在灯光的照耀下格外晶莹洁白,女朋友拿起红酒杯轻轻地抿了一小口,对我说:“经常听你说线程池,到底线程池到底是个什么原理?”我楞了一下,心里想女朋友今天是怎么了,怎么突然问出这么专业的问题,但做为一个专业人士在女朋友面前也不能露怯啊,想了一下便说:“我先给你讲讲我前同事老王的故事吧!” 大龄程序员老王 老王是一个已经北漂十多年的程序员,岁数大了,加班加不动了,升迁也无望,于是拿着手里
经典算法(5)杨辉三角
杨辉三角 是经典算法,这篇博客对它的算法思想进行了讲解,并有完整的代码实现。
腾讯算法面试题:64匹马8个跑道需要多少轮才能选出最快的四匹?
昨天,有网友私信我,说去阿里面试,彻底的被打击到了。问了为什么网上大量使用ThreadLocal的源码都会加上private static?他被难住了,因为他从来都没有考虑过这个问题。无独有偶,今天笔者又发现有网友吐槽了一道腾讯的面试题,我们一起来看看。 腾讯算法面试题:64匹马8个跑道需要多少轮才能选出最快的四匹? 在互联网职场论坛,一名程序员发帖求助到。二面腾讯,其中一个算法题:64匹
面试官:你连RESTful都不知道我怎么敢要你?
面试官:了解RESTful吗? 我:听说过。 面试官:那什么是RESTful? 我:就是用起来很规范,挺好的 面试官:是RESTful挺好的,还是自我感觉挺好的 我:都挺好的。 面试官:… 把门关上。 我:… 要干嘛?先关上再说。 面试官:我说出去把门关上。 我:what ?,夺门而去 文章目录01 前言02 RESTful的来源03 RESTful6大原则1. C-S架构2. 无状态3.统一的接
JDK12 Collectors.teeing 你真的需要了解一下
前言 在 Java 12 里面有个非常好用但在官方 JEP 没有公布的功能,因为它只是 Collector 中的一个小改动,它的作用是 merge 两个 collector 的结果,这句话显得很抽象,老规矩,我们先来看个图(这真是一个不和谐的图????): 管道改造经常会用这个小东西,通常我们叫它「三通」,它的主要作用就是将 downstream1 和 downstre...
为啥国人偏爱Mybatis,而老外喜欢Hibernate/JPA呢?
关于SQL和ORM的争论,永远都不会终止,我也一直在思考这个问题。昨天又跟群里的小伙伴进行了一番讨论,感触还是有一些,于是就有了今天这篇文。 声明:本文不会下关于Mybatis和JPA两个持久层框架哪个更好这样的结论。只是摆事实,讲道理,所以,请各位看官勿喷。 一、事件起因 关于Mybatis和JPA孰优孰劣的问题,争论已经很多年了。一直也没有结论,毕竟每个人的喜好和习惯是大不相同的。我也看
项目中的if else太多了,该怎么重构?
介绍 最近跟着公司的大佬开发了一款IM系统,类似QQ和微信哈,就是聊天软件。我们有一部分业务逻辑是这样的 if (msgType = "文本") { // dosomething } else if(msgType = "图片") { // doshomething } else if(msgType = "视频") { // doshomething } else { // doshom...
致 Python 初学者
欢迎来到“Python进阶”专栏!来到这里的每一位同学,应该大致上学习了很多 Python 的基础知识,正在努力成长的过程中。在此期间,一定遇到了很多的困惑,对未来的学习方向感到迷茫。我非常理解你们所面临的处境。我从2007年开始接触 python 这门编程语言,从2009年开始单一使用 python 应对所有的开发工作,直至今天。回顾自己的学习过程,也曾经遇到过无数的困难,也曾经迷茫过、困惑过。开办这个专栏,正是为了帮助像我当年一样困惑的 Python 初学者走出困境、快速成长。希望我的经验能真正帮到你
“狗屁不通文章生成器”登顶GitHub热榜,分分钟写出万字形式主义大作
一、垃圾文字生成器介绍 最近在浏览GitHub的时候,发现了这样一个骨骼清奇的雷人项目,而且热度还特别高。 项目中文名:狗屁不通文章生成器 项目英文名:BullshitGenerator 根据作者的介绍,他是偶尔需要一些中文文字用于GUI开发时测试文本渲染,因此开发了这个废话生成器。但由于生成的废话实在是太过富于哲理,所以最近已经被小伙伴们给玩坏了。 他的文风可能是这样的: 你发现,...
程序员:我终于知道post和get的区别
是一个老生常谈的话题,然而随着不断的学习,对于以前的认识有很多误区,所以还是需要不断地总结的,学而时习之,不亦说乎
《程序人生》系列-这个程序员只用了20行代码就拿了冠军
你知道的越多,你不知道的越多 点赞再看,养成习惯GitHub上已经开源https://github.com/JavaFamily,有一线大厂面试点脑图,欢迎Star和完善 前言 这一期不算《吊打面试官》系列的,所有没前言我直接开始。 絮叨 本来应该是没有这期的,看过我上期的小伙伴应该是知道的嘛,双十一比较忙嘛,要值班又要去帮忙拍摄年会的视频素材,还得搞个程序员一天的Vlog,还要写BU...
加快推动区块链技术和产业创新发展,2019可信区块链峰会在京召开
11月8日,由中国信息通信研究院、中国通信标准化协会、中国互联网协会、可信区块链推进计划联合主办,科技行者协办的2019可信区块链峰会将在北京悠唐皇冠假日酒店开幕。   区块链技术被认为是继蒸汽机、电力、互联网之后,下一代颠覆性的核心技术。如果说蒸汽机释放了人类的生产力,电力解决了人类基本的生活需求,互联网彻底改变了信息传递的方式,区块链作为构造信任的技术有重要的价值。   1...
程序员把地府后台管理系统做出来了,还有3.0版本!12月7号最新消息:已在开发中有github地址
第一幕:缘起 听说阎王爷要做个生死簿后台管理系统,我们派去了一个程序员…… 996程序员做的梦: 第一场:团队招募 为了应对地府管理危机,阎王打算找“人”开发一套地府后台管理系统,于是就在地府总经办群中发了项目需求。 话说还是中国电信的信号好,地府都是满格,哈哈!!! 经常会有外行朋友问:看某网站做的不错,功能也简单,你帮忙做一下? 而这次,面对这样的需求,这个程序员...
相关热词 c# plc s1200 c#里氏转换原则 c# 主界面 c# do loop c#存为组套 模板 c# 停掉协程 c# rgb 读取图片 c# 图片颜色调整 最快 c#多张图片上传 c#密封类与密封方法
立即提问