qinghua9 2009-03-10 14:41
浏览 349
已采纳

帮忙:java对大批量数据进行操作

程序对大数据量进行操作。操作的数据库为Oracle
过程是先对数据进行delete操作,然后进行insert操作。
数据量大概是百万条左右。

现在使用的方法是jdbc的PreparedStatement,每5万条commit一次。
可是这样的话程序的速度还是达不到要求。

f(((a+1) % 50000)==0){
delPstmt.executeBatch();
insPstmt.executeBatch();
dbConn.commit();
dbConn.setAutoCommit(true);
delPstmt.close();
insPstmt.close();
dbConn.setAutoCommit(false);
delPstmt = dbConn.prepareStatement(deleteSql);
insPstmt = dbConn.prepareStatement(insertSql);
}

有没有比较快的方法,不限定于用jdbc.导出文件导入库什么方法也可以。

但是一定得按顺序先执行delete操作,再进行insert操作。
[b]问题补充:[/b]

数据在其他的库里面。我先执行一个select 语句,把符合条件的数据采集出来,然后迭代ResultSet。

接着就是进行如上的操作。先删后插

[b]问题补充:[/b]
对了。不是删掉表部表中的数据。

删掉的数据就是REsultRet里面迭代出来的数据。因为怕有键值重复。所以进行先删后插。没办法,业务需要

  • 写回答

4条回答 默认 最新

  • iteye_12476 2009-03-12 15:45
    关注

    首先,你得权衡你的需求,然后得学会牺牲些什么来换取点什么.

    如果要求不是很高的话,可以先把数据读出来,写到一个文件里.然后晚点空闲的时候用JOB去执行你描述的操作.

    或者分批次读取,处理.

    或者把数据库的索引砍掉,因为删数据和增数据,都会重新编排索引,数据量太大的话,开销会比较大.保证读是一个库,写是另一个库.

    任何处理过程比较长的事务,尽量把他分解为若干的短事务.

    有得必有失,取舍要认真衡量.

    数据量太大的移植,可能DBA会有更好的办法,不一定非得JAVA来做!

    本回答被题主选为最佳回答 , 对您是否有帮助呢?
    评论
查看更多回答(3条)

报告相同问题?

悬赏问题

  • ¥100 Jenkins自动化部署—悬赏100元
  • ¥15 关于#python#的问题:求帮写python代码
  • ¥20 MATLAB画图图形出现上下震荡的线条
  • ¥15 关于#windows#的问题:怎么用WIN 11系统的电脑 克隆WIN NT3.51-4.0系统的硬盘
  • ¥15 perl MISA分析p3_in脚本出错
  • ¥15 k8s部署jupyterlab,jupyterlab保存不了文件
  • ¥15 ubuntu虚拟机打包apk错误
  • ¥199 rust编程架构设计的方案 有偿
  • ¥15 回答4f系统的像差计算
  • ¥15 java如何提取出pdf里的文字?