mysql单表千万数据如何优化

mysql 单表一千万的数据 多对多中间表
有A,B,C三张表
A表 表结构 id,name,time,....
B表 表结构 id,name....
C表(多对多中间表)表结构 id,Aid,Atime,Bid 为了优化把A表的time也放在了C表
C表 索引,index_Aid, index_Bid, index_Bid_Atime,index_Atime
查询语句:select DISTINCT Aid from C where Bid in (.....) order by Atime desc limit 0,20
在in大量的情况下
看解释器 走的索引是 index_Bid_Atime
(Using index condition; Using temporary; Using filesort )
很慢,如果把联合索引去掉 走排序的索引很快
在in只有1,2个的情况下 走联合索引很快,在排序索引很慢。有大神有优化办法吗?

3个回答

针对SQL,这个级别的单表,考虑把索引整理一下,基数小的索引直接删掉,没用的索引多了反而会影响速度。

从表结构角度出发,可以建range分区,可以参考:https://www.cnblogs.com/pejsidney/p/10074980.html

从业务角度出发,可以建临时表存放查询结果,或者建历史表将不活跃的数据放出去。

从技术角度出发,可以加es搜索引擎。

具体看你有哪些权利,根据你自己被允许的修改范围去操作。

in的效率是很低的,因为in会对索引进行破坏,另外你要注意你的查询条件的次序,对联合索引也会有影响

Csdn user default icon
上传中...
上传图片
插入图片
抄袭、复制答案,以达到刷声望分或其他目的的行为,在CSDN问答是严格禁止的,一经发现立刻封号。是时候展现真正的技术了!
其他相关推荐
mysql大单表数据查询优化
mysql数据库,单表数据量很大时,该如何优化,提高查询效率。请帮忙提供并列举所有可行的方法。
mysql单表分页查询数据量大的情况下怎么优化
mysql单表分页查询数据量大的情况下怎么优化,另外mysql优化有哪些注意的地方
mysql千万级数据,写多读少,如何优化
mysql数据库,其中有一张表数据量有3千万,写多读少,如何优化? 我对表进行大量写操作的时候,整个系统都无法访问了,请问是什么原因? 是因为对表执行大量的新增操作,IO变慢了?
mysql 单表数据行10亿
mysql 单表数据行10亿 频繁的查询 修改 删除 通过分区和索引 读写分离 可以解决 效率问题吗 ? 还是必须要分表那?
MySQL数据库表查询优化
假如一个表中有10亿行数据,要查询的数据位置随意,则做一次查询大约需要多久,该怎么样调高查询效率。
mysql单表4000万行数据,如何按单个字段快速去重呢?电脑内存只有8G
mysql单表4000万行数据,如何按单个字段快速去重呢?电脑内存只有8G
如果用的是mysql数据库,单表数据量大概到多少条记录量的时候,才需要考虑分库分表?
如果用的是mysql数据库,单表数据量大概到多少条记录量的时候,才需要考虑分库分表? 我们是传统的软件公司,做解决方案的,之前一直用oracle数据库,最近项目改用mysql数据库。 不知道mysql数据库性能如何,请问 mysql数据库,单表数据量大概到多少条记录量的时候,才需要考虑分库分表? mysql数据库单表的数据量上限是多少?
mysql数据库Sql查询优化
MySql 查询优化,将varchar 类型字段修改为 int类型 引起大量慢查询。求大牛指导下。
VS2010MFC向mysql的表里添加数据中文乱码怎样解决
VS2010MFC向mysql的表里添加数据中文乱码怎样解决添加中文数据时为乱码
如何修复超过1G的MYSQL 数据表 数据表在MYSQL中显示状态是“使用中”.
如何修复超过1G的MYSQL 数据表 数据表在MYSQL中显示状态是“使用中”,但是无法查看数据表中的数据,用REPAIR无法修复数据表
亿级数据,mysql插入数据非常缓慢,谁给优化一下,代码如下。
``` package databasebit import ( "database/sql" "fmt" _ "github.com/go-sql-driver/mysql" ) //此函数要被调用上亿次,进行数据的插入以及查询 重复数据大概占比50 func Databaseinbit(db *sql.DB, newaddress string, newrece, newsend float32) { // 查询数据表的address字段内有没有重复数据 rows, err := db.Query("SELECT * FROM bitcoin WHERE address REGEXP '"+newaddress+"'") checkErr(err) //如果address数据重复 将rece与send进行更新 for rows.Next() { //在不报错的情况下 uid可以不提取数据 var uid int var address string var rece float32 var send float32 err = rows.Scan(&uid, &address, &rece, &send) checkErr(err) //如果地址相同 选择rece或者send进行更新 if address == newaddress { if newrece != 0 { rece += newrece stmt, err := db.Prepare("update bitcoin set rece=? WHERE address='"+newaddress+"'") checkErr(err) res, err := stmt.Exec(rece) checkErr(err) affect, err := res.RowsAffected() checkErr(err) fmt.Println("address:",address," :" , affect) rows.Close() return } if newsend != 0 { send += newsend stmt, err := db.Prepare("update bitcoin set send=? WHERE address='"+newaddress+"'") checkErr(err) res, err := stmt.Exec(send) checkErr(err) affect, err := res.RowsAffected() checkErr(err) fmt.Println("address:",address," : ", affect) rows.Close() return } } } // 如果没有重复数据 将数据插入 stmt, err := db.Prepare("INSERT bitcoin SET address=?,rece=?,send=?") checkErr(err) stmt.Exec(newaddress, newrece, newsend) return } func checkErr(err error) { if err != nil { panic(err) } } ``` 这是表的数据结构![图片说明](https://img-ask.csdn.net/upload/201811/22/1542867477_464546.png) 当全部数据插入完成后 对数据表中address字段进行查询 查询时间不能超过0.5s 数据规模亿级
MySQL数据库InnoDB引擎优化问题
``` CREATE TABLE `user` ( `id` int(10) unsigned NOT NULL AUTO_INCREMENT, `balance` int(11) DEFAULT NULL, PRIMARY KEY (`id`) ) ENGINE=InnoDB AUTO_INCREMENT=108 DEFAULT CHARSET=utf8; update user set balance = balance - 1 where id = ? ``` 上边表结构,下边语句。当同一个id高并发访问的时候会锁住。我应该怎么优化?
mysql百万数据查重优化
在mysql数据库中有一张人员信息表,数据量 100万以上,根据姓名、性别、身份证号等基本信息查询出重复的数据。如何能快速查出数据。 ![图片说明](https://img-ask.csdn.net/upload/201902/20/1550644793_798915.png) 求教如何优化。
数据库mysql查询优化问题
最近做项目遇到一些mysql数据库查询优化的问题,单表查询一百万左右的数据,select count(*) 查询比较慢,如果再有分页查询,按条件查询又比较慢,各位有没有好的优化建议?
spark从mysql数据库读取1000万条数据 运行速度很慢 如何优化
使用dataframe从mysql数据库中读取一张有1000万条记录的表 读取数据非常的慢 有什么办法能优化呢 求助啊 级
mysql大数据如何存储方便
我有大概500亿以上的数据 每条数据除了相应的主键ID外 由7个坐标点外加两个字段组成 属于全球范围内的坐标点 请问大佬如何存储这些数据比较好 另外 这500亿以上的数据还要每个再分化100份 请问 如何建表 mysql数据库 数据开始一次性生成 后续主要以查询为主 偶尔会update一下 update量小 单次最多100条数据
mysql 大数据量查询优化
请教大神,关于mysql优化的,目前有三个字段, host(varchar2), sip(varchar2),request(text),这三个字段是用 or 来模糊查询的,这表也经常更新,目前数据500多万, 查询有点慢,怎么优化呀
Mysql数据库千万数据修改迁移问题
**环境:**数据库DATA中有三张表分别为 表A、表B、表C **需求:**表A中有1200万数据,现在需要将表A中的部分字段数据插入表B中,将表A中剩余部分字段插入表C中,在插入过程中,会对字段数据进行部分处理(如某字段为空,则随机插入写那些)。 **问题:** 除了查出表A中的数据然后一条一条处理插入还有什么好的方式能优化效率呢!!
在php中从Excel表中向mysql数据库导入数据
请问:如何实现在php中从Excel表中向mysql数据库导入数据,要注意那些东西?
Java学习的正确打开方式
在博主认为,对于入门级学习java的最佳学习方法莫过于视频+博客+书籍+总结,前三者博主将淋漓尽致地挥毫于这篇博客文章中,至于总结在于个人,实际上越到后面你会发现学习的最好方式就是阅读参考官方文档其次就是国内的书籍,博客次之,这又是一个层次了,这里暂时不提后面再谈。博主将为各位入门java保驾护航,各位只管冲鸭!!!上天是公平的,只要不辜负时间,时间自然不会辜负你。 何谓学习?博主所理解的学习,它是一个过程,是一个不断累积、不断沉淀、不断总结、善于传达自己的个人见解以及乐于分享的过程。
程序员必须掌握的核心算法有哪些?
由于我之前一直强调数据结构以及算法学习的重要性,所以就有一些读者经常问我,数据结构与算法应该要学习到哪个程度呢?,说实话,这个问题我不知道要怎么回答你,主要取决于你想学习到哪些程度,不过针对这个问题,我稍微总结一下我学过的算法知识点,以及我觉得值得学习的算法。这些算法与数据结构的学习大多数是零散的,并没有一本把他们全部覆盖的书籍。下面是我觉得值得学习的一些算法以及数据结构,当然,我也会整理一些看过...
大学四年自学走来,这些私藏的实用工具/学习网站我贡献出来了
大学四年,看课本是不可能一直看课本的了,对于学习,特别是自学,善于搜索网上的一些资源来辅助,还是非常有必要的,下面我就把这几年私藏的各种资源,网站贡献出来给你们。主要有:电子书搜索、实用工具、在线视频学习网站、非视频学习网站、软件下载、面试/求职必备网站。 注意:文中提到的所有资源,文末我都给你整理好了,你们只管拿去,如果觉得不错,转发、分享就是最大的支持了。 一、电子书搜索 对于大部分程序员...
linux系列之常用运维命令整理笔录
本博客记录工作中需要的linux运维命令,大学时候开始接触linux,会一些基本操作,可是都没有整理起来,加上是做开发,不做运维,有些命令忘记了,所以现在整理成博客,当然vi,文件操作等就不介绍了,慢慢积累一些其它拓展的命令,博客不定时更新 free -m 其中:m表示兆,也可以用g,注意都要小写 Men:表示物理内存统计 total:表示物理内存总数(total=used+free) use...
比特币原理详解
一、什么是比特币 比特币是一种电子货币,是一种基于密码学的货币,在2008年11月1日由中本聪发表比特币白皮书,文中提出了一种去中心化的电子记账系统,我们平时的电子现金是银行来记账,因为银行的背后是国家信用。去中心化电子记账系统是参与者共同记账。比特币可以防止主权危机、信用风险。其好处不多做赘述,这一层面介绍的文章很多,本文主要从更深层的技术原理角度进行介绍。 二、问题引入 假设现有4个人...
程序员接私活怎样防止做完了不给钱?
首先跟大家说明一点,我们做 IT 类的外包开发,是非标品开发,所以很有可能在开发过程中会有这样那样的需求修改,而这种需求修改很容易造成扯皮,进而影响到费用支付,甚至出现做完了项目收不到钱的情况。 那么,怎么保证自己的薪酬安全呢? 我们在开工前,一定要做好一些证据方面的准备(也就是“讨薪”的理论依据),这其中最重要的就是需求文档和验收标准。一定要让需求方提供这两个文档资料作为开发的基础。之后开发...
网页实现一个简单的音乐播放器(大佬别看。(⊙﹏⊙))
今天闲着无事,就想写点东西。然后听了下歌,就打算写个播放器。 于是乎用h5 audio的加上js简单的播放器完工了。 演示地点演示 html代码如下` music 这个年纪 七月的风 音乐 ` 然后就是css`*{ margin: 0; padding: 0; text-decoration: none; list-...
Python十大装B语法
Python 是一种代表简单思想的语言,其语法相对简单,很容易上手。不过,如果就此小视 Python 语法的精妙和深邃,那就大错特错了。本文精心筛选了最能展现 Python 语法之精妙的十个知识点,并附上详细的实例代码。如能在实战中融会贯通、灵活使用,必将使代码更为精炼、高效,同时也会极大提升代码B格,使之看上去更老练,读起来更优雅。
数据库优化 - SQL优化
以实际SQL入手,带你一步一步走上SQL优化之路!
通俗易懂地给女朋友讲:线程池的内部原理
餐盘在灯光的照耀下格外晶莹洁白,女朋友拿起红酒杯轻轻地抿了一小口,对我说:“经常听你说线程池,到底线程池到底是个什么原理?”
经典算法(5)杨辉三角
杨辉三角 是经典算法,这篇博客对它的算法思想进行了讲解,并有完整的代码实现。
使用 Docker 部署 Spring Boot 项目
Docker 技术发展为微服务落地提供了更加便利的环境,使用 Docker 部署 Spring Boot 其实非常简单,这篇文章我们就来简单学习下。首先构建一个简单的 S...
英特尔不为人知的 B 面
从 PC 时代至今,众人只知在 CPU、GPU、XPU、制程、工艺等战场中,英特尔在与同行硬件芯片制造商们的竞争中杀出重围,且在不断的成长进化中,成为全球知名的半导体公司。殊不知,在「刚硬」的背后,英特尔「柔性」的软件早已经做到了全方位的支持与支撑,并持续发挥独特的生态价值,推动产业合作共赢。 而对于这一不知人知的 B 面,很多人将其称之为英特尔隐形的翅膀,虽低调,但是影响力却不容小觑。 那么,在...
面试官:你连RESTful都不知道我怎么敢要你?
干货,2019 RESTful最贱实践
刷了几千道算法题,这些我私藏的刷题网站都在这里了!
遥想当年,机缘巧合入了 ACM 的坑,周边巨擘林立,从此过上了"天天被虐似死狗"的生活… 然而我是谁,我可是死狗中的战斗鸡,智力不够那刷题来凑,开始了夜以继日哼哧哼哧刷题的日子,从此"读题与提交齐飞, AC 与 WA 一色 ",我惊喜的发现被题虐既刺激又有快感,那一刻我泪流满面。这么好的事儿作为一个正直的人绝不能自己独享,经过激烈的颅内斗争,我决定把我私藏的十几个 T 的,阿不,十几个刷题网...
白话阿里巴巴Java开发手册高级篇
不久前,阿里巴巴发布了《阿里巴巴Java开发手册》,总结了阿里巴巴内部实际项目开发过程中开发人员应该遵守的研发流程规范,这些流程规范在一定程度上能够保证最终的项目交付质量,通过在时间中总结模式,并推广给广大开发人员,来避免研发人员在实践中容易犯的错误,确保最终在大规模协作的项目中达成既定目标。 无独有偶,笔者去年在公司里负责升级和制定研发流程、设计模板、设计标准、代码标准等规范,并在实际工作中进行...
SQL-小白最佳入门sql查询一
不要偷偷的查询我的个人资料,即使你再喜欢我,也不要这样,真的不好;
redis分布式锁,面试官请随便问,我都会
文章有点长并且绕,先来个图片缓冲下! 前言 现在的业务场景越来越复杂,使用的架构也就越来越复杂,分布式、高并发已经是业务要求的常态。像腾讯系的不少服务,还有CDN优化、异地多备份等处理。 说到分布式,就必然涉及到分布式锁的概念,如何保证不同机器不同线程的分布式锁同步呢? 实现要点 互斥性,同一时刻,智能有一个客户端持有锁。 防止死锁发生,如果持有锁的客户端崩溃没有主动释放锁,也要保证锁可以正常释...
项目中的if else太多了,该怎么重构?
介绍 最近跟着公司的大佬开发了一款IM系统,类似QQ和微信哈,就是聊天软件。我们有一部分业务逻辑是这样的 if (msgType = "文本") { // dosomething } else if(msgType = "图片") { // doshomething } else if(msgType = "视频") { // doshomething } else { // doshom...
Nginx 原理和架构
Nginx 是一个免费的,开源的,高性能的 HTTP 服务器和反向代理,以及 IMAP / POP3 代理服务器。Nginx 以其高性能,稳定性,丰富的功能,简单的配置和低资源消耗而闻名。 Nginx 的整体架构 Nginx 里有一个 master 进程和多个 worker 进程。master 进程并不处理网络请求,主要负责调度工作进程:加载配置、启动工作进程及非停升级。worker 进程负责处...
“狗屁不通文章生成器”登顶GitHub热榜,分分钟写出万字形式主义大作
一、垃圾文字生成器介绍 最近在浏览GitHub的时候,发现了这样一个骨骼清奇的雷人项目,而且热度还特别高。 项目中文名:狗屁不通文章生成器 项目英文名:BullshitGenerator 根据作者的介绍,他是偶尔需要一些中文文字用于GUI开发时测试文本渲染,因此开发了这个废话生成器。但由于生成的废话实在是太过富于哲理,所以最近已经被小伙伴们给玩坏了。 他的文风可能是这样的: 你发现,...
程序员:我终于知道post和get的区别
是一个老生常谈的话题,然而随着不断的学习,对于以前的认识有很多误区,所以还是需要不断地总结的,学而时习之,不亦说乎
《程序人生》系列-这个程序员只用了20行代码就拿了冠军
你知道的越多,你不知道的越多 点赞再看,养成习惯GitHub上已经开源https://github.com/JavaFamily,有一线大厂面试点脑图,欢迎Star和完善 前言 这一期不算《吊打面试官》系列的,所有没前言我直接开始。 絮叨 本来应该是没有这期的,看过我上期的小伙伴应该是知道的嘛,双十一比较忙嘛,要值班又要去帮忙拍摄年会的视频素材,还得搞个程序员一天的Vlog,还要写BU...
加快推动区块链技术和产业创新发展,2019可信区块链峰会在京召开
11月8日,由中国信息通信研究院、中国通信标准化协会、中国互联网协会、可信区块链推进计划联合主办,科技行者协办的2019可信区块链峰会将在北京悠唐皇冠假日酒店开幕。   区块链技术被认为是继蒸汽机、电力、互联网之后,下一代颠覆性的核心技术。如果说蒸汽机释放了人类的生产力,电力解决了人类基本的生活需求,互联网彻底改变了信息传递的方式,区块链作为构造信任的技术有重要的价值。   1...
Java世界最常用的工具类库
Apache Commons Apache Commons有很多子项目 Google Guava 参考博客
程序员把地府后台管理系统做出来了,还有3.0版本!12月7号最新消息:已在开发中有github地址
第一幕:缘起 听说阎王爷要做个生死簿后台管理系统,我们派去了一个程序员…… 996程序员做的梦: 第一场:团队招募 为了应对地府管理危机,阎王打算找“人”开发一套地府后台管理系统,于是就在地府总经办群中发了项目需求。 话说还是中国电信的信号好,地府都是满格,哈哈!!! 经常会有外行朋友问:看某网站做的不错,功能也简单,你帮忙做一下? 而这次,面对这样的需求,这个程序员...
网易云6亿用户音乐推荐算法
网易云音乐是音乐爱好者的集聚地,云音乐推荐系统致力于通过 AI 算法的落地,实现用户千人千面的个性化推荐,为用户带来不一样的听歌体验。 本次分享重点介绍 AI 算法在音乐推荐中的应用实践,以及在算法落地过程中遇到的挑战和解决方案。 将从如下两个部分展开: AI算法在音乐推荐中的应用 音乐场景下的 AI 思考 从 2013 年 4 月正式上线至今,网易云音乐平台持续提供着:乐屏社区、UGC...
【技巧总结】位运算装逼指南
位算法的效率有多快我就不说,不信你可以去用 10 亿个数据模拟一下,今天给大家讲一讲位运算的一些经典例子。不过,最重要的不是看懂了这些例子就好,而是要在以后多去运用位运算这些技巧,当然,采用位运算,也是可以装逼的,不信,你往下看。我会从最简单的讲起,一道比一道难度递增,不过居然是讲技巧,那么也不会太难,相信你分分钟看懂。 判断奇偶数 判断一个数是基于还是偶数,相信很多人都做过,一般的做法的代码如下...
为什么要学数据结构?
一、前言 在可视化化程序设计的今天,借助于集成开发环境可以很快地生成程序,程序设计不再是计算机专业人员的专利。很多人认为,只要掌握几种开发工具就可以成为编程高手,其实,这是一种误解。要想成为一个专业的开发人员,至少需要以下三个条件: 1) 能够熟练地选择和设计各种数据结构和算法 2) 至少要能够熟练地掌握一门程序设计语言 3) 熟知所涉及的相关应用领域的知识 其中,后两个条件比较容易实现,而第一个...
Android 9.0 init 启动流程
阅读五分钟,每日十点,和您一起终身学习,这里是程序员Android本篇文章主要介绍Android开发中的部分知识点,通过阅读本篇文章,您将收获以下内容:一、启动流程概述一、 启动流程概述Android启动流程跟Linux启动类似,大致分为如下五个阶段。1.开机上电,加载固化的ROM。2.加载BootLoader,拉起Android OS。3.加载Uboot,初始外设,引导Kernel启动等。...
相关热词 c# 图片上传 c# gdi 占用内存 c#中遍历字典 c#控制台模拟dos c# 斜率 最小二乘法 c#进程延迟 c# mysql完整项目 c# grid 总行数 c# web浏览器插件 c# xml 生成xsd
立即提问