0
点赞
收藏
分享

微信扫一扫

mysql查询均有索引但速度慢问题排查

guanguans 2022-08-18 阅读 87


近来有个一情况非常奇怪 查询limit 10 竟然非常慢,而且都where中的两个字段和order by 的一个字段都有索引, 这个表有1200W的数据,update比较多,但压力还OK,

profiles 查看使用的时间
profile 能查看到 执行中的时间长短

SET profiling = 1;

select t.* from t_user t where 1=1
and t.logintype= 'qq'
and t.channel= 'scb_weixin'
order by t.update_time DESC limit 10 ;

show PROFILES;

结果:

169    0.00231675    SHOW STATUS
170 0.00251925 SELECT QUERY_ID, SUM(DURATION) AS SUM_DURATION FROM INFORMATION_SCHEMA.PROFILING GROUP BY QUERY_ID
171 0.00085025 SELECT STATE AS `状态`, ROUND(SUM(DURATION),7) AS `期间`, CONCAT(ROUND(SUM(DURATION)/0.001298*100,3), '%') AS `百分比` FROM INFORMATION_SCHEMA.PROFILING WHERE QUERY_ID=168 GROUP BY STATE ORDER BY SEQ
172 0.000857 SELECT * FROM `t_pdb`.`t_user` LIMIT 0
173 0.00316375 SHOW COLUMNS FROM `t_pdb`.`t_user`

show PROFILE for QUERY <从上面一个语句中找到,如 172> 
结果:

starting    0.000135
checking permissions 6.7E-5
Opening tables 7.4E-5
init 0.000105
System lock 7.1E-5
optimizing 7.8E-5
statistics 0.000209
preparing 7.9E-5
Sorting result 6.6E-5
executing 6.5E-5
Sending data 8.5E-5
Creating sort index 33.105645
end 0.000179
query end 9.1E-5
closing tables 7.3E-5
freeing items 9.3E-5
logging slow query 0.000112
cleaning up 7.4E-5

show status 查看

FLUSH STATUS;
select t.* from t_user t where 1=1
and t.logintype= 'qq'
and t.channel= 'scb_weixin'
order by t.update_time DESC limit 10 ;
show status where variable_name like 'handler%' or variable_name like 'created%';

结果:

Created_tmp_disk_tables    0
Created_tmp_files 0
Created_tmp_tables 0
Handler_commit 1
Handler_delete 0
Handler_discover 0
Handler_external_lock 6
Handler_mrr_init 0
Handler_prepare 0
Handler_read_first 0
Handler_read_key 4583930
Handler_read_last 0
Handler_read_next 15239952
Handler_read_prev 0
Handler_read_rnd 4583928
Handler_read_rnd_next 0
Handler_rollback 0
Handler_savepoint 0
Handler_savepoint_rollback 0
Handler_update 0
Handler_write 0

上面的几个count很大,网上找了下,应该是和order有关

执行计划

explain
select t.* from t_user t where 1=1
and t.logintype= 'qq'
and t.channel= 'scb_weixin'
order by t.update_time DESC limit 10 ;

结果:

1    SIMPLE    t        index_merge    idx_channel,idx_logintype    idx_channel,idx_logintype    99,99        3083430    100    Using intersect(idx_channel,idx_logintype); Using where; Using filesort
1
情况分析,
时间都花费在 Creating sort index,这是和order有关的语句, 
把order 给去掉,或者order by id desc 则还是很快,说明貌似是 和update_time有关

解决办法:
一,修改mysql的部分参数:

max_connections=10000
query_cache_size=0
table_open_cache=10000
tmp_table_size=150M
thread_cache_size=10
myisam_max_sort_file_size=100G
myisam_sort_buffer_size=175M
key_buffer_size=128M
read_buffer_size=1M
read_rnd_buffer_size=4M

下面是参数详解

max_connections = 1000 
#指定MySQL允许的最大连接进程数。如果在访问数据库时经常出现"Too Many Connections"的错误提 示,则需要增大该参数值。
query_cache_size = 64M
#指定 MySQL 查询缓冲区的大小。可以通过在 MySQL 控制台执行以下命令观察:
代码:
> SHOW VARIABLES LIKE '%query_cache%';
> SHOW STATUS LIKE 'Qcache%';如果 Qcache_lowmem_prunes 的值非常大,则表明经常出现缓冲不够的情况;
如果 Qcache_hits 的值非常大,则表明查询缓冲使用非常频繁,如果该值较小反而会影响效率,那么可以考虑不用查询缓冲; Qcache_free_blocks,如果该值非常大,则表明缓冲区中碎片很多。
memlock # 如果你的系统支持 memlock() 函数,你也许希望打开此选项用以让运行中的 mysql 在在内存高度
紧张的时候,数据在内存中保持锁定并且防止可能被 swapping out,此选项对于性能有益


tmp_table_size = 512M
#临时表的最大大小,如果超过该值,则结果放到磁盘中,此限制是针对单个表的,而不是总和.
thread_cache_size = 20
# 我们在 cache 中保留多少线程用于重用.当一个客户端断开连接后,如果 cache 中的线程还少于 thread_cache_size,则客户端线程被放入 cache 中.这可以在你需要大量新连接的时候极大的减少线程创建的开销(一般来说如果你有好的线程模型的话,
这不会有明显的性能提升.)服务器线程缓存这个值表示可以重新利用保存在缓存中线程的数量,当断开连接时如果缓存中还有空间,那么客户端的线程将被放到缓存中,如果线程重新被请求,那么请求将从缓存中读取,如果缓存中是空的或者是新的请求,那么这个线程将被重新创建,
如果有很多新的线程,增加这个值可以改善系统性能.通过比较 Connections 和 Threads_created 状态的变量,可以看到这个变量的作用
根据物理内存设置规则如下:
1G —> 8
2G —> 16
3G —> 32
大于3G —> 64
myisam_max_sort_file_size=100G

重建索引时允许使用的临时文件最大大小(myisam_max_sort_file_size)

myisam_sort_buffer_size=175M
MyISAM 设置恢复表之时使用的缓冲区的尺寸,当在REPAIR TABLE 或用 CREATE INDEX 创建索引或 ALTER TABLE 过程中排序 MyISAM 索引分配的缓冲区(myisam_sort_buffer_size)
key_buffer_size = 256M
#指定用于索引的缓冲区大小,增加它可得到更好的索引处理性能。如果是以InnoDB引擎为主的DB,专用于MyISAM引擎的 key_buffer_size 可以设置较小,8MB 已足够 如果是以MyISAM引擎为主,可设置较大,但不能超过4G. 在这里,强烈建议不使用MyISAM引擎,默认都是用InnoDB引擎.注意:该参数值设置的过大反而会是服务器整体效率降低!
read_buffer_size = 2M
#读查询操作所能使用的缓冲区大小。和 sort_buffer_size 一样,该参数对应的分配内存也是每连接独享!用来做 MyISAM 表全表扫描的缓冲大小.当全表扫描需要时,在对应线程中分配.
read_rnd_buffer_size = 8M
#MyISAM 以索引扫描(Random Scan)方式扫描数据的 buffer大小

mysql配置对应,这一步修改配置

二,增加order by 的参数的 where xxx is not null 
这个立杆见影,把条件is not null加到where中 去

select   t.*   from t_user t  where 1=1
and t.logintype= 'qq'
and t.channel= 'scb_weixin'
and t.update_time is not null
order by t.update_time DESC limit 10 ;

 

附录
表结构

CREATE TABLE `t_user` (
`id` int(11) NOT NULL AUTO_INCREMENT,
`scb_user_id` varchar(256) DEFAULT NULL COMMENT '',
。。。。。
PRIMARY KEY (`id`),
UNIQUE KEY `ukey_login_name_type` (`login_name`,`logintype`,`channel`),
KEY `idx_device_guid` (`device_guid`),
KEY `idx_update_time` (`update_time`),
KEY `idx_channel` (`channel`),
KEY `idx_logintype` (`logintype`),
KEY `idx_scb_user_id` (`scb_user_id`),
KEY `idx_status` (`status`)
) ENGINE=InnoDB AUTO_INCREMENT=12915154 DEFAULT CHARSET=utf8;

结尾记录下,复制大佬的,添加自己的,保证自己每一篇博客都测试

举报

相关推荐

0 条评论