如何抽取Oracle数据库中的增量数据? 80C

有一批Oracle的数据库,使用这些数据库的应用都和钱有关系,对数据库的性能和稳定性有苛刻的要求。另一个应用需要实时或接近实时地(如延时几秒)抽取数据库中的增量数据;但不能对数据库有性能影响(或则影响非常小,如下降千分之一以内),不能在数据库上做开发(如触发器存储过程之类),更不能修改数据库配置(添加Stream,CDC之类的),不使用OGG之类的商业软件可以使用开源软件。增量数据指新插入,修改,删除的数据。

6个回答

有个能按照位置,时间 进行提取的命令

a1422221000
a1422221000 通过GoldenGate的方式解析oracle的日志进行数据
大约 2 年之前 回复
dengfeng_dengfeng
dengfeng_dengfeng 主表示写 从表示读 你现在的库当主库 你只要在主库里面执行了 insert/update/delete 数据库会自己在从库里面执行一样的操作
大约 2 年之前 回复
dengfeng_dengfeng
dengfeng_dengfeng 还有一种方法就是设置主从、备份的库
大约 2 年之前 回复
dengfeng_dengfeng
dengfeng_dengfeng 回复account_redsun_xp: 你增量的时候 在数据库bin下会有一个00011类似这种名字的文件 这个表示增量备份的数据库文件 你再用log-bin 执行下 就能过去
大约 2 年之前 回复
guigu187
guigu187 有个能按照位置,时间 ,事件进行提取的命令
大约 2 年之前 回复
xulong_csdn
xulong_csdn 事件增量
大约 2 年之前 回复
dengfeng_dengfeng
dengfeng_dengfeng 回复account_redsun_xp: 数据库的增量备份是由 bin-log 命令操作的 给你二个增量备份的语法 mysqlbinlog可以查看二进制备份文件内容 mysqlbinlog 二进制文件路径 mysqlbinlog --stop-datetime="2013-01-14 18:20:21" 二进制文件位置 ... 从位置来恢复 从开始恢复日志到3968位置 mysqlbinlog --stop-position="3968" d:\binlog\mylog.000001 | mysql -uroot -p 取出时间段的操作 mysqlbinlog --start-datetime="2013-01-14 18:20:21" --stop-datetime="2013-01-14 18:40:21" ....
大约 2 年之前 回复
account_redsun_xp
account_redsun_xp 具体呢?
大约 2 年之前 回复

这个我有一个国家diam网的代码,和你的需求一样。采纳了可以发给你。不过你不能外传啊。

weixin_44023973
weixin_44023973 回复请你们大家多多姿瓷我菠菜菌: 你好,同样的问题也想请教下
4 个月之前 回复
dabocaiqq
请你们大家多多姿瓷我菠菜菌 回复wanghongrongwt: 你也提问,悬赏80,我可以给你
一年多之前 回复
wanghongrongwt
wanghongrongwt 能否也发一份给我,可以没有具体的代码,主要是想知道思路、技术及工具
一年多之前 回复

数据库的增量备份是由 bin-log 命令操作的 给你二个增量备份的语法

mysqlbinlog可以查看二进制备份文件内容
mysqlbinlog 二进制文件路径

mysqlbinlog --stop-datetime="2013-01-14 18:20:21" 二进制文件位置 ...

从位置来恢复 从开始恢复日志到3968位置
mysqlbinlog --stop-position="3968" d:\binlog\mylog.000001 | mysql -uroot -p

取出时间段的操作
mysqlbinlog --start-datetime="2013-01-14 18:20:21" --stop-datetime="2013-01-14 18:40:21" ....

u013302788
liujie152 haha
大约 2 年之前 回复

可以通过GoldenGate的方式解析oracle的日志进行数据推送

这个肯定要每天定时执行的吧,我们公司是晚上12点后kettle抽取生产库的增量数据,到统计库。 然后如果是windows服务器就用系统的定时任务,
晚上定时执行job。linux的话不熟悉,但应该是cron表达式设置定时。

用物化视图不就好了么

Csdn user default icon
上传中...
上传图片
插入图片
抄袭、复制答案,以达到刷声望分或其他目的的行为,在CSDN问答是严格禁止的,一经发现立刻封号。是时候展现真正的技术了!
其他相关推荐
本地Oracle数据库访问远程Oracle数据库
如何使用本地Oracle数据访问远程Oracle数据库。知道远程数据库的ip、数据库名、数据库用户名、密码、service_name(sid)。例如:我想将远程数据库中的一张表中的数据插入到本地数据库表中。如何实现?不希望使用链路。希望得到各位大侠的帮助,谢谢。
oracle数据无时间字段如何抽取增量数据?
对数据源oracle数据库只有读权限,没有时间字段,第一次全量抽取后,如何进行定期增量抽取?
如何实现kettle增量数据的抽取,从一个多个数据库同步到一个数据库?
目前有个想法,有两个甚至多个syabse数据库,一个oracle数据库, 将syabse数据库的增量数据,实时完整的同步到oracle数据库, 能否实现,如何实现?
ORACLE数据库效率问题
对oracle数据库来讲多个客户端同时向数据库服务器插入数据快还是由一个客户端统一向数据库插入数据快。
将mysql数据库表中的部分数据导入到oracle数据库中
有一个问题:需要将Mysql数据库表中的某些数据导入oracle数据库的表中,需要通过传递文件来实现。比如将mysql数据生成.sql文件,然后执行该文件就可以写入到oracle数据库中。希望各位高手给个思路,谢谢
oracle数据库相关问题的疑问
和oracle数据库什么关系oracle_11g_ODTwithODAC1110620,已经安装的oracle11g的服务端,两者有冲突吗?
Oracle数据库中如何将特殊字符存到数据表中?比如url之类的
Oracle数据库中如何将特殊字符存到数据表中?比如url之类的,形如http://182.54.47.19:8827/mywork/queryWflowList.do?SID=HPATESEHFPHUGQJIAIFDGZIPFYHYEZFGIXCZAZJL&menuId=wfiOrg;getPndCtrViewPage.do?ser_no=${pk_value}&wfflag=view 求大神指导哈
java代码实现mysql到oracle的数据迁移,每天凌晨两点更新当天数据到oracle数据库
oracle数据库中的表是我根据需求自己建的,有八九张,并且oracle数据库中的那几张表,每张表对应的是mysql数据 库中两三张表里的部分字段,我要把做的就是把mysql中的数据导入到oracle数据库中,并且每天凌晨2点定时更新mysql中的当天数据到oracle数据库中。。做过的好心大哥大姐帮帮小弟啊,分享下代码,谢谢谢谢~~~~~~(java代码实现。。)
实时采集oracle和sqlserver的增量数据传入kafka
有没有什么方案可以实现实时采集oracle和sqlserver的增量数据传入kafka,不能设置时间戳,触发器,最好是监控操作日志
oracle数据库迁移问题
现在要将oracle数据库整库进行迁移,所以先要将数据库导出, 现在导出用的exp username/password file=**.dmp owner=username;每次导到一半 ,就报错说磁盘空间不足,导出失败。我看了下,应该跟这些 表空间下的dbf文件有关,这种文件三四G大小,但实际数据占用率却很低![图片说明](https://img-ask.csdn.net/upload/201603/07/1457321966_701482.png)
请问PHP如何读取Oracle数据库中的CLOB字段?
请问PHP如何读取Oracle数据库中的CLOB字段?数据库中CLOB字段中是文本内容。 试了N多次,都没用,还望各位大神不吝赐教,感谢!
把oracle数据库中的表写到mysql中
如题,oracle数据库中的表格,完完全全的导入到mysql数据库中,有没有什么简单的方法,不要写程序之类的。有没有大神知道?望指教。
servlet 实现oracle数据库增量同步
条件: oracle数据库:A,B数据库: A中表a数据发送改变(增加,修改,删除) B中表b与a的结构一样,用b接收a中的发生变化的数据(如果是删除必须将b中相同数据删除) 要求: 设置同步的时间周期为一天,通过servlet实现定时实现上面的条件。
oracle数据库同步至ES
oracle同步至ES 需求: 1、全量、增量都具备 2、当数据库中有修改删除操作时,ES也能做相应变动 3、oracle数据库中无更新时间字段,且无自增字段 有没有大佬能告诉我用什么技术可以实现这个需求。 logstash我已经试过了,虽然全量、增量可以实现,但是当数据库中有字段变动时,无法同步至ES
oracle 数据库复制到另一个数据库中
现有oracle数据库test,要求将test中数据复制一份到test1,请问需要怎么操作,需要数据全部都在
java如何实现远程备份与还原ORACLE数据库中的表
java如何实现远程备份与还原ORACLE数据库中的表  本地没有装ORACLE数据库,项目是B/S模式的,想在页面加上两个按钮"备份数据","还原数据" 每台客户端不可能都装ORACLE数据库
如何将SQLServer的数据库迁移至ORACLE数据库里
目前有一个SQL Server的数据库,我的任务是将这个数据库弄到Oracle数据库里。我使用过ORACLE sql Developer迁移数据, 但是在移植向导时报错java.lang.NullPointerExcetion错误!
如何进行oracle的差异、增量备份数据库
1、环境:centos7系统 oracle11g 数据泵形式:expdp/impdp 2、操作:利用数据泵进行数据库的差异、增量备份 3、利用其他操作形式如exp/imp、rman或第三方软件进行备份都可以
oracle 数据库 表的关系图有什么软件可以显示
oracle 数据库 表的关系图有什么软件可以显示 oracle 数据库 表的关系图有什么软件可以显示oracle 数据库 表的关系图有什么软件可以显示
终于明白阿里百度这样的大公司,为什么面试经常拿ThreadLocal考验求职者了
点击上面↑「爱开发」关注我们每晚10点,捕获技术思考和创业资源洞察什么是ThreadLocalThreadLocal是一个本地线程副本变量工具类,各个线程都拥有一份线程私...
《奇巧淫技》系列-python!!每天早上八点自动发送天气预报邮件到QQ邮箱
将代码部署服务器,每日早上定时获取到天气数据,并发送到邮箱。 也可以说是一个小人工智障。 思路可以运用在不同地方,主要介绍的是思路。
面试官问我:什么是消息队列?什么场景需要他?用了会出现什么问题?
你知道的越多,你不知道的越多 点赞再看,养成习惯 GitHub上已经开源 https://github.com/JavaFamily 有一线大厂面试点脑图、个人联系方式和人才交流群,欢迎Star和完善 前言 消息队列在互联网技术存储方面使用如此广泛,几乎所有的后端技术面试官都要在消息队列的使用和原理方面对小伙伴们进行360°的刁难。 作为一个在互联网公司面一次拿一次Offer的面霸...
8年经验面试官详解 Java 面试秘诀
作者 |胡书敏 责编 | 刘静 出品 | CSDN(ID:CSDNnews) 本人目前在一家知名外企担任架构师,而且最近八年来,在多家外企和互联网公司担任Java技术面试官,前后累计面试了有两三百位候选人。在本文里,就将结合本人的面试经验,针对Java初学者、Java初级开发和Java开发,给出若干准备简历和准备面试的建议。 Java程序员准备和投递简历的实...
究竟你适不适合买Mac?
我清晰的记得,刚买的macbook pro回到家,开机后第一件事情,就是上了淘宝网,花了500元钱,找了一个上门维修电脑的师傅,上门给我装了一个windows系统。。。。。。 表砍我。。。 当时买mac的初衷,只是想要个固态硬盘的笔记本,用来运行一些复杂的扑克软件。而看了当时所有的SSD笔记本后,最终决定,还是买个好(xiong)看(da)的。 已经有好几个朋友问我mba怎么样了,所以今天尽量客观...
MyBatis研习录(01)——MyBatis概述与入门
MyBatis 是一款优秀的持久层框架,它支持定制化 SQL、存储过程以及高级映射。MyBatis原本是apache的一个开源项目iBatis, 2010年该项目由apache software foundation 迁移到了google code并改名为MyBatis 。2013年11月MyBatis又迁移到Github。
程序员一般通过什么途径接私活?
二哥,你好,我想知道一般程序猿都如何接私活,我也想接,能告诉我一些方法吗? 上面是一个读者“烦不烦”问我的一个问题。其实不止是“烦不烦”,还有很多读者问过我类似这样的问题。 我接的私活不算多,挣到的钱也没有多少,加起来不到 20W。说实话,这个数目说出来我是有点心虚的,毕竟太少了,大家轻喷。但我想,恰好配得上“一般程序员”这个称号啊。毕竟苍蝇再小也是肉,我也算是有经验的人了。 唾弃接私活、做外...
Python爬虫爬取淘宝,京东商品信息
小编是一个理科生,不善长说一些废话。简单介绍下原理然后直接上代码。 使用的工具(Python+pycharm2019.3+selenium+xpath+chromedriver)其中要使用pycharm也可以私聊我selenium是一个框架可以通过pip下载 pip installselenium -ihttps://pypi.tuna.tsinghua.edu.cn/simple/ ...
阿里程序员写了一个新手都写不出的低级bug,被骂惨了。
这种新手都不会范的错,居然被一个工作好几年的小伙子写出来,差点被当场开除了。
Java工作4年来应聘要16K最后没要,细节如下。。。
前奏: 今天2B哥和大家分享一位前几天面试的一位应聘者,工作4年26岁,统招本科。 以下就是他的简历和面试情况。 基本情况: 专业技能: 1、 熟悉Sping了解SpringMVC、SpringBoot、Mybatis等框架、了解SpringCloud微服务 2、 熟悉常用项目管理工具:SVN、GIT、MAVEN、Jenkins 3、 熟悉Nginx、tomca...
Python爬虫精简步骤1 获取数据
爬虫,从本质上来说,就是利用程序在网上拿到对我们有价值的数据。 爬虫能做很多事,能做商业分析,也能做生活助手,比如:分析北京近两年二手房成交均价是多少?广州的Python工程师平均薪资是多少?北京哪家餐厅粤菜最好吃?等等。 这是个人利用爬虫所做到的事情,而公司,同样可以利用爬虫来实现巨大的商业价值。比如你所熟悉的搜索引擎——百度和谷歌,它们的核心技术之一也是爬虫,而且是超级爬虫。 从搜索巨头到人工...
Python绘图,圣诞树,花,爱心 | Turtle篇
每周每日,分享Python实战代码,入门资料,进阶资料,基础语法,爬虫,数据分析,web网站,机器学习,深度学习等等。 公众号回复【进群】沟通交流吧,QQ扫码进群学习吧 微信群 QQ群 1.画圣诞树 import turtle screen = turtle.Screen() screen.setup(800,600) circle = turtle.Turtle()...
作为一个程序员,CPU的这些硬核知识你必须会!
CPU对每个程序员来说,是个既熟悉又陌生的东西? 如果你只知道CPU是中央处理器的话,那可能对你并没有什么用,那么作为程序员的我们,必须要搞懂的就是CPU这家伙是如何运行的,尤其要搞懂它里面的寄存器是怎么一回事,因为这将让你从底层明白程序的运行机制。 随我一起,来好好认识下CPU这货吧 把CPU掰开来看 对于CPU来说,我们首先就要搞明白它是怎么回事,也就是它的内部构造,当然,CPU那么牛的一个东...
破14亿,Python分析我国存在哪些人口危机!
一、背景 二、爬取数据 三、数据分析 1、总人口 2、男女人口比例 3、人口城镇化 4、人口增长率 5、人口老化(抚养比) 6、各省人口 7、世界人口 四、遇到的问题 遇到的问题 1、数据分页,需要获取从1949-2018年数据,观察到有近20年参数:LAST20,由此推测获取近70年的参数可设置为:LAST70 2、2019年数据没有放上去,可以手动添加上去 3、将数据进行 行列转换 4、列名...
web前端javascript+jquery知识点总结
1.Javascript 语法.用途 javascript 在前端网页中占有非常重要的地位,可以用于验证表单,制作特效等功能,它是一种描述语言,也是一种基于对象(Object)和事件驱动并具有安全性的脚本语言 ...
Python实战:抓肺炎疫情实时数据,画2019-nCoV疫情地图
今天,群里白垩老师问如何用python画武汉肺炎疫情地图。白垩老师是研究海洋生态与地球生物的学者,国家重点实验室成员,于不惑之年学习python,实为我等学习楷模。先前我并没有关注武汉肺炎的具体数据,也没有画过类似的数据分布图。于是就拿了两个小时,专门研究了一下,遂成此文。
听说想当黑客的都玩过这个Monyer游戏(1~14攻略)
第零关 进入传送门开始第0关(游戏链接) 请点击链接进入第1关: 连接在左边→ ←连接在右边 看不到啊。。。。(只能看到一堆大佬做完的留名,也能看到菜鸡的我,在后面~~) 直接fn+f12吧 <span>连接在左边→</span> <a href="first.php"></a> <span>←连接在右边</span> o...
在家远程办公效率低?那你一定要收好这个「在家办公」神器!
相信大家都已经收到国务院延长春节假期的消息,接下来,在家远程办公可能将会持续一段时间。 但是问题来了。远程办公不是人在电脑前就当坐班了,相反,对于沟通效率,文件协作,以及信息安全都有着极高的要求。有着非常多的挑战,比如: 1在异地互相不见面的会议上,如何提高沟通效率? 2文件之间的来往反馈如何做到及时性?如何保证信息安全? 3如何规划安排每天工作,以及如何进行成果验收? ...... ...
作为一个程序员,内存和磁盘的这些事情,你不得不知道啊!!!
截止目前,我已经分享了如下几篇文章: 一个程序在计算机中是如何运行的?超级干货!!! 作为一个程序员,CPU的这些硬核知识你必须会! 作为一个程序员,内存的这些硬核知识你必须懂! 这些知识可以说是我们之前都不太重视的基础知识,可能大家在上大学的时候都学习过了,但是嘞,当时由于老师讲解的没那么有趣,又加上这些知识本身就比较枯燥,所以嘞,大家当初几乎等于没学。 再说啦,学习这些,也看不出来有什么用啊!...
渗透测试-灰鸽子远控木马
木马概述 灰鸽子( Huigezi),原本该软件适用于公司和家庭管理,其功能十分强大,不但能监视摄像头、键盘记录、监控桌面、文件操作等。还提供了黑客专用功能,如:伪装系统图标、随意更换启动项名称和表述、随意更换端口、运行后自删除、毫无提示安装等,并采用反弹链接这种缺陷设计,使得使用者拥有最高权限,一经破解即无法控制。最终导致被黑客恶意使用。原作者的灰鸽子被定义为是一款集多种控制方式于一体的木马程序...
Python:爬取疫情每日数据
前言 目前每天各大平台,如腾讯、今日头条都会更新疫情每日数据,他们的数据源都是一样的,主要都是通过各地的卫健委官网通报。 以全国、湖北和上海为例,分别为以下三个网站: 国家卫健委官网:http://www.nhc.gov.cn/xcs/yqtb/list_gzbd.shtml 湖北卫健委官网:http://wjw.hubei.gov.cn/bmdt/ztzl/fkxxgzbdgrfyyq/xxfb...
这个世界上人真的分三六九等,你信吗?
偶然间,在知乎上看到一个问题 一时间,勾起了我深深的回忆。 以前在厂里打过两次工,做过家教,干过辅导班,做过中介。零下几度的晚上,贴过广告,满脸、满手地长冻疮。 再回首那段岁月,虽然苦,但让我学会了坚持和忍耐。让我明白了,在这个世界上,无论环境多么的恶劣,只要心存希望,星星之火,亦可燎原。 下文是原回答,希望能对你能有所启发。 如果我说,这个世界上人真的分三六九等,...
B 站上有哪些很好的学习资源?
哇说起B站,在小九眼里就是宝藏般的存在,放年假宅在家时一天刷6、7个小时不在话下,更别提今年的跨年晚会,我简直是跪着看完的!! 最早大家聚在在B站是为了追番,再后来我在上面刷欧美新歌和漂亮小姐姐的舞蹈视频,最近两年我和周围的朋友们已经把B站当作学习教室了,而且学习成本还免费,真是个励志的好平台ヽ(.◕ฺˇд ˇ◕ฺ;)ノ 下面我们就来盘点一下B站上优质的学习资源: 综合类 Oeasy: 综合...
雷火神山直播超两亿,Web播放器事件监听是怎么实现的?
Web播放器解决了在手机浏览器和PC浏览器上播放音视频数据的问题,让视音频内容可以不依赖用户安装App,就能进行播放以及在社交平台进行传播。在视频业务大数据平台中,播放数据的统计分析非常重要,所以Web播放器在使用过程中,需要对其内部的数据进行收集并上报至服务端,此时,就需要对发生在其内部的一些播放行为进行事件监听。 那么Web播放器事件监听是怎么实现的呢? 01 监听事件明细表 名...
3万字总结,Mysql优化之精髓
本文知识点较多,篇幅较长,请耐心学习 MySQL已经成为时下关系型数据库产品的中坚力量,备受互联网大厂的青睐,出门面试想进BAT,想拿高工资,不会点MySQL优化知识,拿offer的成功率会大大下降。 为什么要优化 系统的吞吐量瓶颈往往出现在数据库的访问速度上 随着应用程序的运行,数据库的中的数据会越来越多,处理时间会相应变慢 数据是存放在磁盘上的,读写速度无法和内存相比 如何优化 设计...
Python新型冠状病毒疫情数据自动爬取+统计+发送报告+数据屏幕(三)发送篇
今天介绍的项目是使用 Itchat 发送统计报告 项目功能设计: 定时爬取疫情数据存入Mysql 进行数据分析制作疫情报告 使用itchat给亲人朋友发送分析报告 基于Django做数据屏幕 使用Tableau做数据分析 来看看最终效果 目前已经完成,预计2月12日前更新 使用 itchat 发送数据统计报告 itchat 是一个基于 web微信的一个框架,但微信官方并不允许使用这...
作为程序员的我,大学四年一直自学,全靠这些实用工具和学习网站!
我本人因为高中沉迷于爱情,导致学业荒废,后来高考,毫无疑问进入了一所普普通通的大学,实在惭愧???? 我又是那么好强,现在学历不行,没办法改变的事情了,所以,进入大学开始,我就下定决心,一定要让自己掌握更多的技能,尤其选择了计算机这个行业,一定要多学习技术。 在进入大学学习不久后,我就认清了一个现实:我这个大学的整体教学质量和学习风气,真的一言难尽,懂的人自然知道怎么回事? 怎么办?我该如何更好的提升自...
粒子群算法求解物流配送路线问题(python)
1.Matlab实现粒子群算法的程序代码:https://www.cnblogs.com/kexinxin/p/9858664.html matlab代码求解函数最优值:https://blog.csdn.net/zyqblog/article/details/80829043 讲解通俗易懂,有数学实例的博文:https://blog.csdn.net/daaikuaichuan/article/...
教你如何编写第一个简单的爬虫
很多人知道爬虫,也很想利用爬虫去爬取自己想要的数据,那么爬虫到底怎么用呢?今天就教大家编写一个简单的爬虫。 下面以爬取笔者的个人博客网站为例获取第一篇文章的标题名称,教大家学会一个简单的爬虫。 第一步:获取页面 #!/usr/bin/python # coding: utf-8 import requests #引入包requests link = "http://www.santostang....
前端JS初级面试题二 (。•ˇ‸ˇ•。)老铁们!快来瞧瞧自己都会了么
1. 传统事件绑定和符合W3C标准的事件绑定有什么区别? 传统事件绑定 <div onclick="">123</div> div1.onclick = function(){}; <button onmouseover=""></button> 注意: 如果给同一个元素绑定了两次或多次相同类型的事件,那么后面的绑定会覆盖前面的绑定 (不支持DOM事...
相关热词 c#导入fbx c#中屏蔽键盘某个键 c#正态概率密度 c#和数据库登陆界面设计 c# 高斯消去法 c# codedom c#读取cad文件文本 c# 控制全局鼠标移动 c# temp 目录 bytes初始化 c#
立即提问