十亿级数据查询效率有效提升办法
发布网友
发布时间：2022-05-06 05:22
共2个回答
懂视网
时间：2022-05-06 09:43
第一种：
单次查询1000次的结果，跑100次，发现时间浮动还是比较大，这可能跟插入的数据散列情况有关，
user_id相同的数据还是有不少，20-100之间，线上业务出现这种数据的情况不大，所以，这些数据不影响最终结果。
第二种：并发1000线程对数据库进行随机1000次查询，
1000线程：最慢时间8s，处理能力 125/s ；
2000线程：最慢时间10s，处理能力 100/s；
第三种：mysqlslap进行测试
开启2000个线程，执行SELECT * FROM user_company_test_5000 WHERE user_id=7432查询
平均处理时间8.76s，每秒能处理229个查询。
用官方的mysqlslap进行测试，跟python脚本的测试结果偏差较大，
猜测原因有两个：
1：mysqlslap 直接采用socket对Mysql进行连接，所以它除了 mysql处理时间和网络请求时间没有其他影响结果的操作
2：mysqlslap只能指定sql，没有办法随机查询数据，而测试表里面的数据分散不均匀，这也是一个原因。
mysqlslap的数据只能视为最好情况，但第二个python脚本则更接近生产环境，1000次查询数据也是随机查询，
所以第二种能作为生产环境的依据。
再来看看批量查询，IN 语句最多50个值
好吧，我只开了200个线程，最慢时间93s，最快时间46s，简直可以用惨不忍睹来讲。。如果是批量查询，
那就拆成多条语句来查吧。如果用IN ，必然会影响服务。
结论：
跟dba沟通过，理论上每秒能够支持5000次的查询量是比较正常的，但我用mysqlslap对单表100W的数据量进行了
测试，2000个client 每秒处理能力也只有700左右，
从第二种数据上看，当单机client达到2000时，每秒还能处理100次左右的查询，还是不错的。
原文出处:http://www.imsiren.com/archives/995
热心网友
时间：2022-05-06 06:51
那分区走不走没有意义啊，就相当于全表扫描啊，应该没有很多关联吧，要不更慢。
把语句和执行计划发出来看一下吧
