急 处理大量数据 查找出重复的并去重(去重的导入另一张表中)

3张表,1.yiche (modelid ,parentid) 2. param(id,paramid,value) 3.value(modelid,paramid,value) 查询相同数据 ,parentid 是modelid的上级 ,param表中有4个属性paramid分别对应的是1 ,4,78,256 每个modelid都有这四个属性,有什么简单的方法判断是否有这样的数据,modelid不同,但其他属性相同 包括parentid 和param表中paramid对应的value,最好附上程序

1个回答

什么表?lz指的是excel么?尝试一下POI

Csdn user default icon
上传中...
上传图片
插入图片
抄袭、复制答案,以达到刷声望分或其他目的的行为,在CSDN问答是严格禁止的,一经发现立刻封号。是时候展现真正的技术了!
其他相关推荐
联合主键重复如何去重???

从DB2 迁移数据到mysql ,两张表的字段不一样,mysql 里的表有四个字段的联合主键,这四个字段DB2 里也有,要实现迁移,如何去掉这个联合主键里重复的部分呢?我的思路是从DB2 迁移出数据的时候就过滤掉联合主键重复的数据。我的语句是这样的!:selecte * from table where (a||b||c||d) in (Select distinct a||b||c||d from table )但是这样并不能去掉重复部分。in 后面的语句确实可以得到不重复的联合主键。但是我要怎么样才能获取联合主键不重复整张表的数据呢?求大牛们指点一二。

sql去重后统计数据大小的问题

我想要对如下的表按照file-name字段去重后,再统计file-size的和。 ![data_source表](https://img-ask.csdn.net/upload/201705/26/1495802260_692487.png) 我查到了去重常用的distinct方法,但是只能去重,不能进行统计,如下图。 ![distinct去重](https://img-ask.csdn.net/upload/201705/26/1495802258_653207.png) 然后我又查到查重统计的方法,通过group by 和having,但是也不太符合我的要求,如下图所示。 ![groupby](https://img-ask.csdn.net/upload/201705/26/1495802378_145343.png) 另外,不能删除库内的数据,所以也不能删掉重复数据后查询。 根据图一中的数据,我如果进行统计file-size的话,应该是7k,而不是15k。 ![统计大小](https://img-ask.csdn.net/upload/201705/26/1495802571_990740.png) 请问,对于去重统计的需求,应该用什么方法呢?

怎么用Excel数据透视表查找重复数据?

在处理数据时,总共有两千多条数据,其中有重复数据,怎么用数据透视表的功能查找出重复数据?

删除重复csv或者neo4j不导入重复节点

我现在有爬好数据的csv文件,需要导入neo4j形成节点。 但是这csv中有些数据是一样的(即形成的节点一模一样) </br> 现在需要不导入重复的,或者导入后在neo4j中删除重复节点,如何做?

mysql去重后显示一个列相同,另一个列不同的数据除外后求的总数 用一条sql语句

比如表A 列1 列2 1 y 1 y 1 n 2 y 2 y 2 y ------------ 统计总数 只要列2中有n,这所有和对应列1的所有数据不显示 也就是说只显示结果为一条记录 我之前写的sql语句,因为数据比较多,执行起来性能太差 SELECT COUNT(DISTINCT 列1) AS 数量 FROM 表A AS a WHERE 列1 NOT IN( SELECT 列1 FROM record AS b WHERE B.列2="n")AND A.列2="y" 求大神解答

sql根据某个字段查找所有值 但是指定去重某几个字段 怎么写??

sql根据某个字段查找所有值 但是指定去重某几个字段 怎么写??

SQL查询两列值相同位置相反去重问题

一个表有两个字段,两行数据为【A,B】【B,A】,列值相同位置相反,如何将这两行去重为一行?求教

SQL怎么查找到的重复信息并删除

我写了个查询重复信息的sql 但是不知道怎么把查询到的结果删除 select * from dict a where (a.kind_value,a.code_value,a.code_name) in (select kind_value,code_value,code_name from dict group by kind_value,code_value,code_name having count(*) > 1) and rowid not in (select min(rowid) from dict group by kind_value,code_value,code_name having count(*)>1 我现在不知道这个rowid该换成什么了 换成什么都不对查询没有问题 就是不知道怎么删除 这个图是我的数据库 ![图片说明](https://img-ask.csdn.net/upload/201708/25/1503641464_100338.png) 我就是想 同一条的kind_value cod_e_value code_name 这三个字段的值一样**(比如说我图中的1805和1816这两个只保留一个 另一个删除)** 请大神们指教 实在是不知道该怎么办了

怎么利用vb里的循环算法实现对数组中重复数据查找的判别?

怎么利用vb里的循环算法实现对数组中重复数据查找的判别?怎么判断重复的数据的哪一个是待查数据?

sql语句查询出来数据重复

select dbm,zm from zd_zmzd where dbm in(select dbm from fh_qsyt1_user) order by dbm 我这查询出来的dbm,zm都是重复一次的数据,怎么回事?我记得前一段还没有什么问题啊

从txt中读入大量数据(如何键入大量数据?)

简单英文字典![图片说明](https://img-ask.csdn.net/upload/201812/24/1545632973_150663.png) ![图片说明](https://img-ask.csdn.net/upload/201812/24/1545632991_841753.png)从txt中读入数据 ,但为了体现和计算查找效率,需要大量数据,虽然是小程序实习任务大概也得1000条以上把。 **_如果我用txt读的话只能一条一条手动键入吗?_** **或者说问一下,在没有数据的情况下,怎么凭空弄出大量的数据来对程序进行测试?(初学者)谢谢** 如果从网站上复制粘贴...同一个处理方式,例如(mother n.母亲)去空格回车 变为 mother n.母亲 ![图片说明](https://img-ask.csdn.net/upload/201812/24/1545638235_688090.png) 只打印中文,前面正确的为手动键入部分,后面从n.荣誉开始为网站复制,有些错有些对...头疼

关联查询查询多个字段的 并希望对查询结果中的某一个字段去重。

SELECT distinct (a.id), a.sessionid, a.mobile, a.content, a.pass_id, a.extend, j.smg_desc, j.accountid, a.enter_time, a.reserved3, a.request_time, a.ifreport, j.reportflag, j.state, j.result, c.username, a.deal_time, a.reserved4, j.mid, j.reserved3 as bakTime FROM cs_mt_bak a left join cs_user c on a.reserved1 = c.id left join cs_resp j on a.id = j.mid WHERE 1 = 1 and a.reserved4=2 and to_char(a.request_time, 'YYYY-MM-DD') >= to_char(sysdate, 'YYYY-MM-DD') and to_char(a.request_time, 'YYYY-MM-DD') <= to_char(sysdate, 'YYYY-MM-DD') ORDER BY a.request_time desc, a.id 因为字段后面有些值不一样 导致去重失败 。我希望的id不重复的 后面字段可以重复 ![图片说明](https://img-ask.csdn.net/upload/201706/02/1496391043_369152.png) ![图片说明](https://img-ask.csdn.net/upload/201706/02/1496390933_94463.png)

orcale表关联查询,关联字段的数据重复了

select b.idbranch,count(case when b.billmode = '1' then b.accno end) as issueBill from param_bank a,accnomaindata b,ebankdata c where b.accno = c.accno and b.idbranch=a.idbank group by b.idbranch 因为ebankdata表里的accno字段是有重复的,关联查询的统计的数目不对 使用左连接查询写的语句报错了 select b.idbranch,count(case when b.billmode = '1' then b.accno end) as issueBill from param_bank a,ebs_accnomaindata b,ebs_ebankdata c ebs_accnomaindata b left join (select accno from ebs_ebankdata group by accno ) d on (b.accno=d.accno ) where b.idbranch=a.idbank and d.accno = c.accno

查询删除SQlite中重复的数据

在SQLite中通过查询提取指定用户的数据: Cursor c = db.query(true, TABLE, COLUMN, USER + "= '" + user + "'", null, null, null, null, null); 表单的格式: |group-----ID| |------------| |one-------me| |one------you| |two-------me| |one-------me| 如例子中,查询用户“me”的时候,就会提出one, two, one这几个数据,怎么样在获取结果的时候,删除重复的数据,像上面的例子,只要`one, two`这样的结果。 谢谢

datatable.select 语句中如何取出重复数据

将取出的重复数据作为数据源绑定给另一个datatable,并且重复数据都要绑定到另一个datatable

sql语句查询,怎么去重复

表 order 字段,id,student_id ,status,year(分别是,主键id,学生_id,状态,年份),现在表里面, 相同的student_id, 有两条数据,相同的数据,怎么根据 ,student_id,只查一条数据只查相对的一条数据,

mongodb去重复统计查询

我用的robomongo,要统计不重复的数据 比如![图片说明](https://img-ask.csdn.net/upload/201703/24/1490336533_951197.png) 我要统计2017-03-24当天的数据有3条,根据age去重查询的数据有2条 我要怎样写查询,,,,,,新手求教!!

如何快速高效判断list<String> 中是否有重复数据

list<String> 数据必须唯一,数据库没有做限制,必须查询数据库, 检查需要插入的数据是否已经存在,同时必须保证插入的数据不能有重复, 所有的数据,都成功插入之后才commit; 因为我是先检查数据的正确性,以及数据拼接的,已经2次使用了单层for循环, 不想再次来一个双层循环, 此时就需要一个快速判断list<String> 中是否有重复数据的方法,

二分查找 遇到的难题,如何用二分查找搜索重复的元素

假设有一个数组int array[10]={5,1,3,4,6,7,8,9,1,1};而且已经排序了 但是我用二分只能查出一个 ,我想一次把全部为1的元素找出,该怎么做呢?

在中国程序员是青春饭吗?

今年,我也32了 ,为了不给大家误导,咨询了猎头、圈内好友,以及年过35岁的几位老程序员……舍了老脸去揭人家伤疤……希望能给大家以帮助,记得帮我点赞哦。 目录: 你以为的人生 一次又一次的伤害 猎头界的真相 如何应对互联网行业的「中年危机」 一、你以为的人生 刚入行时,拿着傲人的工资,想着好好干,以为我们的人生是这样的: 等真到了那一天,你会发现,你的人生很可能是这样的: ...

程序员请照顾好自己,周末病魔差点一套带走我。

程序员在一个周末的时间,得了重病,差点当场去世,还好及时挽救回来了。

和黑客斗争的 6 天!

互联网公司工作,很难避免不和黑客们打交道,我呆过的两家互联网公司,几乎每月每天每分钟都有黑客在公司网站上扫描。有的是寻找 Sql 注入的缺口,有的是寻找线上服务器可能存在的漏洞,大部分都...

点沙成金:英特尔芯片制造全过程揭密

“亚马逊丛林里的蝴蝶扇动几下翅膀就可能引起两周后美国德州的一次飓风……” 这句人人皆知的话最初用来描述非线性系统中微小参数的变化所引起的系统极大变化。 而在更长的时间尺度内,我们所生活的这个世界就是这样一个异常复杂的非线性系统…… 水泥、穹顶、透视——关于时间与技艺的蝴蝶效应 公元前3000年,古埃及人将尼罗河中挖出的泥浆与纳特龙盐湖中的矿物盐混合,再掺入煅烧石灰石制成的石灰,由此得来了人...

上班一个月,后悔当初着急入职的选择了

最近有个老铁,告诉我说,上班一个月,后悔当初着急入职现在公司了。他之前在美图做手机研发,今年美图那边今年也有一波组织优化调整,他是其中一个,在协商离职后,当时捉急找工作上班,因为有房贷供着,不能没有收入来源。所以匆忙选了一家公司,实际上是一个大型外包公司,主要派遣给其他手机厂商做外包项目。**当时承诺待遇还不错,所以就立马入职去上班了。但是后面入职后,发现薪酬待遇这块并不是HR所说那样,那个HR自...

女程序员,为什么比男程序员少???

昨天看到一档综艺节目,讨论了两个话题:(1)中国学生的数学成绩,平均下来看,会比国外好?为什么?(2)男生的数学成绩,平均下来看,会比女生好?为什么?同时,我又联想到了一个技术圈经常讨...

副业收入是我做程序媛的3倍,工作外的B面人生是怎样的?

提到“程序员”,多数人脑海里首先想到的大约是:为人木讷、薪水超高、工作枯燥…… 然而,当离开工作岗位,撕去层层标签,脱下“程序员”这身外套,有的人生动又有趣,马上展现出了完全不同的A/B面人生! 不论是简单的爱好,还是正经的副业,他们都干得同样出色。偶尔,还能和程序员的特质结合,产生奇妙的“化学反应”。 @Charlotte:平日素颜示人,周末美妆博主 大家都以为程序媛也个个不修边幅,但我们也许...

如果你是老板,你会不会踢了这样的员工?

有个好朋友ZS,是技术总监,昨天问我:“有一个老下属,跟了我很多年,做事勤勤恳恳,主动性也很好。但随着公司的发展,他的进步速度,跟不上团队的步伐了,有点...

我入职阿里后,才知道原来简历这么写

私下里,有不少读者问我:“二哥,如何才能写出一份专业的技术简历呢?我总感觉自己写的简历太烂了,所以投了无数份,都石沉大海了。”说实话,我自己好多年没有写过简历了,但我认识的一个同行,他在阿里,给我说了一些他当年写简历的方法论,我感觉太牛逼了,实在是忍不住,就分享了出来,希望能够帮助到你。 01、简历的本质 作为简历的撰写者,你必须要搞清楚一点,简历的本质是什么,它就是为了来销售你的价值主张的。往深...

外包程序员的幸福生活

今天给你们讲述一个外包程序员的幸福生活。男主是Z哥,不是在外包公司上班的那种,是一名自由职业者,接外包项目自己干。接下来讲的都是真人真事。 先给大家介绍一下男主,Z哥,老程序员,是我十多年前的老同事,技术大牛,当过CTO,也创过业。因为我俩都爱好喝酒、踢球,再加上住的距离不算远,所以一直也断断续续的联系着,我对Z哥的状况也有大概了解。 Z哥几年前创业失败,后来他开始干起了外包,利用自己的技术能...

C++11:一些微小的变化(新的数据类型、template表达式内的空格、nullptr、std::nullptr_t)

本文介绍一些C++的两个新特性,它们虽然微小,但对你的编程十分重要 一、Template表达式内的空格 C++11标准之前建议在“在两个template表达式的闭符之间放一个空格”的要求已经过时了 例如: vector&lt;list&lt;int&gt; &gt;; //C++11之前 vector&lt;list&lt;int&gt;&gt;; //C++11 二、nullptr ...

优雅的替换if-else语句

场景 日常开发,if-else语句写的不少吧??当逻辑分支非常多的时候,if-else套了一层又一层,虽然业务功能倒是实现了,但是看起来是真的很不优雅,尤其是对于我这种有强迫症的程序"猿",看到这么多if-else,脑袋瓜子就嗡嗡的,总想着解锁新姿势:干掉过多的if-else!!!本文将介绍三板斧手段: 优先判断条件,条件不满足的,逻辑及时中断返回; 采用策略模式+工厂模式; 结合注解,锦...

深入剖析Springboot启动原理的底层源码,再也不怕面试官问了!

大家现在应该都对Springboot很熟悉,但是你对他的启动原理了解吗?

离职半年了,老东家又发 offer,回不回?

有小伙伴问松哥这个问题,他在上海某公司,在离职了几个月后,前公司的领导联系到他,希望他能够返聘回去,他很纠结要不要回去? 俗话说好马不吃回头草,但是这个小伙伴既然感到纠结了,我觉得至少说明了两个问题:1.曾经的公司还不错;2.现在的日子也不是很如意。否则应该就不会纠结了。 老实说,松哥之前也有过类似的经历,今天就来和小伙伴们聊聊回头草到底吃不吃。 首先一个基本观点,就是离职了也没必要和老东家弄的苦...

为什么你不想学习?只想玩?人是如何一步一步废掉的

不知道是不是只有我这样子,还是你们也有过类似的经历。 上学的时候总有很多光辉历史,学年名列前茅,或者单科目大佬,但是虽然慢慢地长大了,你开始懈怠了,开始废掉了。。。 什么?你说不知道具体的情况是怎么样的? 我来告诉你: 你常常潜意识里或者心理觉得,自己真正的生活或者奋斗还没有开始。总是幻想着自己还拥有大把时间,还有无限的可能,自己还能逆风翻盘,只不是自己还没开始罢了,自己以后肯定会变得特别厉害...

为什么程序员做外包会被瞧不起?

二哥,有个事想询问下您的意见,您觉得应届生值得去外包吗?公司虽然挺大的,中xx,但待遇感觉挺低,马上要报到,挺纠结的。

当HR压你价,说你只值7K,你该怎么回答?

当HR压你价,说你只值7K时,你可以流畅地回答,记住,是流畅,不能犹豫。 礼貌地说:“7K是吗?了解了。嗯~其实我对贵司的面试官印象很好。只不过,现在我的手头上已经有一份11K的offer。来面试,主要也是自己对贵司挺有兴趣的,所以过来看看……”(未完) 这段话主要是陪HR互诈的同时,从公司兴趣,公司职员印象上,都给予对方正面的肯定,既能提升HR的好感度,又能让谈判气氛融洽,为后面的发挥留足空间。...

面试:第十六章:Java中级开发(16k)

HashMap底层实现原理,红黑树,B+树,B树的结构原理 Spring的AOP和IOC是什么?它们常见的使用场景有哪些?Spring事务,事务的属性,传播行为,数据库隔离级别 Spring和SpringMVC,MyBatis以及SpringBoot的注解分别有哪些?SpringMVC的工作原理,SpringBoot框架的优点,MyBatis框架的优点 SpringCould组件有哪些,他们...

面试阿里p7,被按在地上摩擦,鬼知道我经历了什么?

面试阿里p7被问到的问题(当时我只知道第一个):@Conditional是做什么的?@Conditional多个条件是什么逻辑关系?条件判断在什么时候执...

面试了一个 31 岁程序员,让我有所触动,30岁以上的程序员该何去何从?

最近面试了一个31岁8年经验的程序猿,让我有点感慨,大龄程序猿该何去何从。

【阿里P6面经】二本,curd两年,疯狂复习,拿下阿里offer

二本的读者,在老东家不断学习,最后逆袭

大三实习生,字节跳动面经分享,已拿Offer

说实话,自己的算法,我一个不会,太难了吧

程序员垃圾简历长什么样?

已经连续五年参加大厂校招、社招的技术面试工作,简历看的不下于万份 这篇文章会用实例告诉你,什么是差的程序员简历! 疫情快要结束了,各个公司也都开始春招了,作为即将红遍大江南北的新晋UP主,那当然要为小伙伴们做点事(手动狗头)。 就在公众号里公开征简历,义务帮大家看,并一一点评。《启舰:春招在即,义务帮大家看看简历吧》 一石激起千层浪,三天收到两百多封简历。 花光了两个星期的所有空闲时...

《经典算法案例》01-08:如何使用质数设计扫雷(Minesweeper)游戏

我们都玩过Windows操作系统中的经典游戏扫雷(Minesweeper),如果把质数当作一颗雷,那么,表格中红色的数字哪些是雷(质数)?您能找出多少个呢?文中用列表的方式罗列了10000以内的自然数、质数(素数),6的倍数等,方便大家观察质数的分布规律及特性,以便对算法求解有指导意义。另外,判断质数是初学算法,理解算法重要性的一个非常好的案例。

《Oracle Java SE编程自学与面试指南》最佳学习路线图(2020最新版)

正确选择比瞎努力更重要!

面试官:你连SSO都不懂,就别来面试了

大厂竟然要考我SSO,卧槽。

微软为一人收购一公司?破解索尼程序、写黑客小说,看他彪悍的程序人生!...

作者 | 伍杏玲出品 | CSDN(ID:CSDNnews)格子衬衫、常掉发、双肩包、修电脑、加班多……这些似乎成了大众给程序员的固定标签。近几年流行的“跨界风”开始刷新人们对程序员的...

终于,月薪过5万了!

来看几个问题想不想月薪超过5万?想不想进入公司架构组?想不想成为项目组的负责人?想不想成为spring的高手,超越99%的对手?那么本文内容是你必须要掌握的。本文主要详解bean的生命...

我说我懂多线程,面试官立马给我发了offer

不小心拿了几个offer,有点烦

自从喜欢上了B站这12个UP主,我越来越觉得自己是个废柴了!

不怕告诉你,我自从喜欢上了这12个UP主,哔哩哔哩成为了我手机上最耗电的软件,几乎每天都会看,可是吧,看的越多,我就越觉得自己是个废柴,唉,老天不公啊,不信你看看…… 间接性踌躇满志,持续性混吃等死,都是因为你们……但是,自己的学习力在慢慢变强,这是不容忽视的,推荐给你们! 都说B站是个宝,可是有人不会挖啊,没事,今天咱挖好的送你一箩筐,首先啊,我在B站上最喜欢看这个家伙的视频了,为啥 ,咱撇...

立即提问