急急急!java实现将txt文件数据导入数据库中 20C

急急急!java实现将txt文件数据导入数据库中。百万级别的数据。各位有什么好的办法吗

6个回答

首先这些数据是不是规范数据?如果规范的话,可以这么做
1. 通过 head 命令等其他工具查看文件前几行数据,分析规律,主要包括 字段的分隔符是什么,字段属性是什么,字段对应的列名是什么?
2. 通过Java缓存、获取文件句柄,然后每次读取一行到缓存中,如果没有创建表结构先创建表结构,分割每行字符,然后拼接成对应sql语句,然后通过for循环执行 sql语句插入数据,如果这些数据都是可信的
3. 为了插入的高效,可以一次插入 多个数据 value(),... 还有暂停这个库的所有连接、查询等其他服务
4. 不推荐使用多线程进行操作,防止发生死锁现象,这么大的数据,毕竟纯粹的IO流,依次插入既可以保证一致性也可以出错快速定位出错在哪一行
5. 如果数据不遵守规范,哈哈,放弃治疗吧,孩子,哈哈,祝你好运

代码参考:https://blog.csdn.net/jojoy_828/article/details/1911236

为了优化速度,可以做一些优化:
(1)确保表没有插入触发器和关系,如果有,先暂时删除
(2)不要建立索引
(3)关闭日志

weixin_42101525
weixin_42101525 同求
一年多之前 回复

用LOAD DATA INFILE
请参见这里

JAVA调用SHELL,SHELL调用SQL LOADER

你的题目是txt文件导入数据库,那肯定是规范的格式数据,不然没法做或者很难做。
1.针对楼主的问题,楼上有哥们说不推荐使用多线程,这个我持否定态度,这个主要是考虑性能问题,多线程不可避免,其次还要配合批量插入使用,
就是每1000条或者几千条入库一次,不要一条一条入库,这样就可以保证性能问题。
2.针对以上方案,我建议楼主使用LineNumberReader和RandomAccessFile这俩类,把文件分割成N份,然后起N个线程去处理。
3.或者使用生产者消费者模式来解决,还是使用2中的方案,但是还要另外再加几个消费者线程,负责解析入库,生产者只负责读数据。希望对楼主能有所帮助。

我用的Navicat工具,右键表选择导入向导可以用txt导入

Csdn user default icon
上传中...
上传图片
插入图片
抄袭、复制答案,以达到刷声望分或其他目的的行为,在CSDN问答是严格禁止的,一经发现立刻封号。是时候展现真正的技术了!
其他相关推荐
急急急!!!现有一个txt文件,请问怎样将其中的十进制数据转换成二进制数据并写入另一个txt
-
急急急!!!!iOS如何在程序中获取到手机日历中的日程关键字信息,求大神解救
-
急急急!!mysql,查询中ORDER BY A,B,C DESC 太慢,如何优化??
-
Asp将txt文件上传数据库
-
求大神,发一个简易的银行系统代码,谢谢 急急急!!!
-
java+swing界面进度条不能同步,该怎样解决,急急急急急!!!!!
-
java连接微信小程序云数据库
-
急急急!在ie浏览器下,引入java包并从数据库获取数据后css文件失效了
-
chrome的扩展如何在代码里自动安装,急急急!!! js或c++
-
手机接上U盘,如何自动安装U盘中的apk,急急急!
-
请问 sql 怎样 查询最接近某一值的3条数据?急急急!!!
-
java对图片进行旋转,怎么保证不失真呢,求教大神帮忙,急急急!
-
asp.net 求海康威视 在线查看监控 手机网页版 求指条明路!大神快来解答!!急急急!!!!
-
java怎么把MP3的格式转成pcm的格式,求大神解决,最好有代码,急急急!!!!!
-
多表关联按照一个地区插入到一张新表中。在线跪求各位大神,急急急!!!
-
急急急!!!!ASP.NET 网站开发怎么根据数据(最好是MYSQL数据库中的数据)绘制波形
-
用本地plsql怎么连接linux中的数据库。急急急!!!!
-
急急急!!!跪求:SQL Server 判断密码修改触发器代码怎么写?
-
安卓运行程序时闪退,不知道是什么原因,求大神告知,急急急!!!!
-
程序员那些必须掌握的排序算法(下)
接着上一篇的排序算法,我们废话不多,直接进入主题。 1.快速排序 快速排序(Quicksort)是对冒泡排序的一种改进。 快速排序由C. A. R. Hoare在1960年提出。它的基本思想是:通过一趟排序将要排序的数据分割成独立的两部分,其中一部分的所有数据都比另外一部分的所有数据都要小,然后再按此方法对这两部分数据分别进行快速排序,整个排序过程可以递归进行,以此达到整个数据变成有序序列。 演示...
学会了这些技术,你离BAT大厂不远了
每一个程序员都有一个梦想,梦想着能够进入阿里、腾讯、字节跳动、百度等一线互联网公司,由于身边的环境等原因,不知道 BAT 等一线互联网公司使用哪些技术?或者该如何去学习这些技术?或者我该去哪些获取这些技术资料?没关系,平头哥一站式服务,上面统统不是问题。平头哥整理了 BAT 等一线大厂的必备技能,并且帮你准备了对应的资料。对于整理出来的技术,如果你掌握的不牢固,那就赶快巩固,如果你还没有涉及,现在...
程序员真是太太太太太有趣了!!!
网络上虽然已经有了很多关于程序员的话题,但大部分人对这个群体还是很陌生。我们在谈论程序员的时候,究竟该聊些什么呢?各位程序员大佬们,请让我听到你们的声音!不管你是前端开发...
史上最详细的IDEA优雅整合Maven+SSM框架(详细思路+附带源码)
网上很多整合SSM博客文章并不能让初探ssm的同学思路完全的清晰,可以试着关掉整合教程,摇两下头骨,哈一大口气,就在万事具备的时候,开整,这个时候你可能思路全无 ~中招了咩~ ,还有一些同学依旧在使用eclipse或者Myeclipse开发,我想对这些朋友说IDEA 的编译速度很快,人生苦短,来不及解释了,直接上手idea吧。这篇文章每一步搭建过程都测试过了,应该不会有什么差错。本文章还有个比较优秀的特点,就是idea的使用,基本上关于idea的操作都算是比较详细的,所以不用太担心不会撸idea!最后,本文
知乎上 40 个有趣回复,很精辟很提神
点击蓝色“五分钟学算法”关注我哟加个“星标”,天天中午 12:15,一起学算法作者 |佚名来源 |网络整理,版权归原作者所有,侵删。1交朋友的标准是什么?- Ques...
从入门到精通,Java学习路线导航
引言 最近也有很多人来向我"请教",他们大都是一些刚入门的新手,还不了解这个行业,也不知道从何学起,开始的时候非常迷茫,实在是每天回复很多人也很麻烦,所以在这里统一作个回复吧。 Java学习路线 当然,这里我只是说Java学习路线,因为自己就是学Java的,对Java理当很熟悉,对于其它方面,我也不是很了解。 基础阶段 首先是基础阶段,在基础阶段,我们必须掌握Java基础,Mysql数据库,Ora...
我花了一夜用数据结构给女朋友写个H5走迷宫游戏
起因 又到深夜了,我按照以往在csdn和公众号写着数据结构!这占用了我大量的时间!我的超越妹妹严重缺乏陪伴而 怨气满满! 而女朋友时常埋怨,认为数据结构这么抽象难懂的东西没啥作用,常会问道:天天写这玩意,有啥作用。而我答道:能干事情多了,比如写个迷宫小游戏啥的! 当我码完字准备睡觉时:写不好别睡觉! 分析 如果用数据结构与算法造出东西来呢? ...
实现 Java 本地缓存,该从这几点开始
缓存,我相信大家对它一定不陌生,在项目中,缓存肯定是必不可少的。市面上有非常多的缓存工具,比如 Redis、Guava Cache 或者 EHcache。对于这些工具,我想大家肯定都非常熟悉,所以今天我们不聊它们,我们来聊一聊如何实现本地缓存。参考上面几种工具,要实现一个较好的本地缓存,平头哥认为要从以下三个方面开始。 1、存储集合的选择 实现本地缓存,存储容器肯定是 key/value 形式的数...
揭开 Python 内存分配时的小秘密!
作者 | 豌豆花下猫 责编 | 胡巍巍 Python 中的sys模块极为基础而重要,它主要提供了一些给解释器使用(或由它维护)的变量,以及一些与解释器强交互的函数。 本文将会频繁地使用该模块的getsizeof()方法,因此,我先简要介绍一下: 该方法用于获取一个对象的字节大小(bytes) 它只计算直接占用的内存,而不计算对象内所引用对象的内存 这里有个直观的例...
让程序员崩溃的瞬间(非程序员勿入)
今天给大家带来点快乐,程序员才能看懂。 来源:https://zhuanlan.zhihu.com/p/47066521 1. 公司实习生找 Bug 2.在调试时,将断点设置在错误的位置 3.当我有一个很棒的调试想法时 4.偶然间看到自己多年前写的代码 5.当我第一次启动我的单元测试时 ...
用Python分析2000款避孕套,得出这些有趣的结论
到现在为止,我们的淘宝教程已经写到了第四篇,前三篇分别是: 第一篇:Python模拟登录淘宝,详细讲解如何使用requests库登录淘宝pc端。 第二篇:淘宝自动登录2.0,新增Cookies序列化,教大家如何将cookies保存起来。 第三篇:Python爬取淘宝商品避孕套,教大家如何爬取淘宝pc端商品信息。 今天,我们来看看淘宝系列的第四篇 我们在上一篇的时候已经将淘宝数据爬取下来了,...
做好以下四点,拒做 “ 空心 ” 程序员
01、注重原理性知识 现在的互联网环境下,注重原理性知识学习的程序员越来越少,特别是在这种培训机构大爆炸的环境下,在网上你会经常看到类似三个月从入门到精通高并发、分布式的广告,我相信培训机构有这套技术的能力,但是我不相信一个初学者有这么好的接收能力。甚至某个培训机构的讲师里,有一个1997年出生的架构师,20岁出头就当上了架构师,真的是后生可畏呀。在我的思维里,架构师不是学出来的,架构师是...
分享靠写代码赚钱的一些门路
作者 mezod,译者 josephchang10如今,通过自己的代码去赚钱变得越来越简单,不过对很多人来说依然还是很难,因为他们不知道有哪些门路。今天给大家分享一个精彩...
技术人员要拿百万年薪,必须要经历这9个段位
很多人都问,技术人员如何成长,每个阶段又是怎样的,如何才能走出当前的迷茫,实现自我的突破。所以我结合我自己10多年的从业经验,总结了技术人员成长的9个段位,希望对大家的职...
面试官:兄弟,说说基本类型和包装类型的区别吧
Java 的每个基本类型都对应了一个包装类型,比如说 int 的包装类型为 Integer,double 的包装类型为 Double。基本类型和包装类型的区别主要有以下 4 点。
进程和线程的区别(超详细)
进程和线程 进程 一个在内存中运行的应用程序。每个进程都有自己独立的一块内存空间,一个进程可以有多个线程,比如在Windows系统中,一个运行的xx.exe就是一个进程。 线程 进程中的一个执行任务(控制单元),负责当前进程中程序的执行。一个进程至少有一个线程,一个进程可以运行多个线程,多个线程可共享数据。 与进程不同的是同类的多个线程共享进程的堆和方法区资源,但每个线程有自己的程序计数器、虚拟...
第二弹!python爬虫批量下载高清大图
文章目录前言下载免费高清大图下载带水印的精选图代码与总结 前言 在上一篇写文章没高质量配图?python爬虫绕过限制一键搜索下载图虫创意图片!中,我们在未登录的情况下实现了图虫创意无水印高清小图的批量下载。虽然小图能够在一些移动端可能展示的还行,但是放到pc端展示图片太小效果真的是很一般!建议阅读本文查看上一篇文章,在具体实现不做太多介绍,只讲个分析思路。 当然,本文可能技术要求不是特别高,但可以...
面试官,不要再问我三次握手和四次挥手
三次握手和四次挥手是各个公司常见的考点,也具有一定的水平区分度,也被一些面试官作为热身题。很多小伙伴说这个问题刚开始回答的挺好,但是后面越回答越冒冷汗,最后就歇菜了。 见过比较典型的面试场景是这样的: 面试官:请介绍下三次握手 求职者:第一次握手就是客户端给服务器端发送一个报文,第二次就是服务器收到报文之后,会应答一个报文给客户端,第三次握手就是客户端收到报文后再给服务器发送一个报文,三次握手就...
为什么说 Web 开发永远不会退出历史舞台?
早在 PC 崛起之际,Web 从蹒跚学步一路走到了主导市场的地位,但是随着移动互联网时代的来临,业界曾有不少人猜测,“Web 应该被杀死,App 才是未来”。不过时间是检...
Java 爬虫遇到需要登录的网站,该怎么办?
这是 Java 网络爬虫系列博文的第二篇,在上一篇 Java 网络爬虫,就是这么的简单 中,我们简单的学习了一下如何利用 Java 进行网络爬虫。在这一篇中我们将简单的聊一聊在网络爬虫时,遇到需要登录的网站,我们该怎么办? 在做爬虫时,遇到需要登陆的问题也比较常见,比如写脚本抢票之类的,但凡需要个人信息的都需要登陆,对于这类问题主要有两种解决方式:一种方式是手动设置 cookie ,就是先在网站上...
nginx学习,看这一篇就够了:下载、安装。使用:正向代理、反向代理、负载均衡。常用命令和配置文件
文章目录前言一、nginx简介1. 什么是 nginx 和可以做什么事情2.Nginx 作为 web 服务器3. 正向代理4. 反向代理5. 动静分离6.动静分离二、Nginx 的安装三、 Nginx 的常用命令和配置文件四、 Nginx 配置实例 1 反向代理五、 Nginx 配置实例 2 负载均衡六、 Nginx 配置实例 3 动静分离七、 Nginx 的高可用集群 前言 一、nginx简介...
相关热词 c# mvc 上传 文件 c#扫描软件 c# 文字打印左右反转 c#byte转换成数字 c# 音量调节组件 c# wpf 界面 c# 读取证书文件的内容 c# 单例模式 工厂模式 c# dgv 树结构 c#继承 反序列化

相似问题

7
关于SQL server 2008 存储过程里编写数据插入之前的时间条件问题,急急急!!!
13
SQL基础问题,求帮忙。急急急!
4
eclipse4.8版本编译Java8的lambda表达式报错 急急急!
2
Jenkins 插件开发 调试运行问题 急急急!!!
2
求一个正则,坐等,急急急!
1
Ueditor 百度富文本编辑器问题 急急急!
6
使用Element的上传图片组件和Vue实现上传图片功能,在线等,急急急!!!
3
关于mac安装homebrew报错!急急急!求大佬帮助!!!
2
急急急!!!!跪求大神帮助 faster-rcnn lib编译问题,win10系统下
2
【已解决】Json收到的pdf字符串流,怎么转回pdf文件?急急急!
3
求推荐免费版本功能强大一点的数据采集软件,急急急!
1
springboot+mybatis 项目 配置多个数据源(mysql和oracle)出错,请大神帮忙看看,急急急!!!跪谢!!!
1
急急急!antd组件 日期选择转中文格式,谁遇见过这种情况?求解决?
2
有没有人知道Mybatis解析带标签的sql的接口????急急急在线等!!!!!!
1
急急急!!!!System.Runtime.InteropServices.COMException
1
汇编语言实现将数据从大到小排序,要求:文本读入数据1000个整数 急急急
1
生产应用weblogic被停用,偶然出现的,麻烦高手解答怎么解决,急急急!!!!
1
小数取模整数的值怎么算?
0
小程序ios无法正常显示日期??急急急!!!
1
datetime-local获取的值为null,急急急!