2017年的时候,我刚去上海,朋友内推我去美团面试,之前我也写过一个一篇文章,也是在美团面试中遇到的:关于慢SQL,我和面试官扯了很久,面试官也是很谦虚的,总是点头,自己以为回答的
2017年的时候,我刚去上海,朋友内推我去美团面试,之前我也写过一个一篇文章,也是在美团面试中遇到的:
关于慢SQL,我和面试官扯了很久,面试官也是很谦虚的,总是点头,自己以为回答的还可以。最后的最后,还是说了“你先回去等通知吧!”。
所以,我决定把这个慢SQL技术点,好好和你分享分享。希望你下次在遇到类似的面试,能顺顺利利轻轻松松的斩获自己想要的offer。
人生最大的喜悦是每个人都说你做不到,你却完成它了!
什么是慢SQL?
MySQL的慢查询日志是MySQL提供的一种日志记录,它用来记录MySQL中查询时间超过(大于)设置阈值(long_query_time)的语句,记录到慢查询日志中。
其中,long_query_time的默认值是10,单位是秒,也就是说默认情况下,你的SQL查询时间超过10秒就算慢SQL了。
如何开启慢SQL日志?
在MySQL中,慢SQL日志默认是未开启的,也就说就算出现了慢SQL,也不会告诉你的,如果需要知道哪些SQL是慢SQL,需要我们手动开启慢SQL日志的。
关于慢SQL是否开启,我们可以通过下面这个命令来查看:
-- 查看慢查询日志是否开启
show variables like '%slow_query_log%';
在这里插入图片描述
通过命令,我们就可以看到slow_query_log项为OFF,说明我们的慢SQL日志并未开启。另外我们也可以看到我们慢SQL日志存放于哪个目录下和日志文件名。
下面我们来开启慢SQL日志,执行下面的命令:
set global slow_query_log = 1;
这里需要注意,这里开启的是我们当前的数据库,并且,我们重启数据库后会失效的。
开启慢SQL日志后,再次查看:
slow_query_log项已经变成ON,说明开启成功。
上面说过慢SQL默认时间是10秒,我们通过下面的命令就可以看到我们慢SQL的默认时间:
show variables like '%long_query_time%';
在这里插入图片描述
我们总不能一直使用这个默认值,可能很多业务需要时间更短或更长,所以此时,我们就需要对默认时间进行修改,修改命令如下:
set long_query_time = 3;
修改完了,我们再来看看是否已经改成了3秒。
这里需要注意:想要永久的生效,还需要修改MySQL下面的配置文件my.cnf 文件。
[mysqld]
slow_query_log=1
slow_query_log_file=/var/lib/mysql/atguigu-slow.log
long_query_time=3
log_output=FILE
注意:不同操作系统,配置有些区别。
Linux操作系统中
在mysql配置文件my.cnf中增加
log-slow-queries=/var/lib/mysql/slowquery.log (指定日志文件存放位置,可以为空,系统会给一个缺省的文件host_name-slow.log)
long_query_time=2 (记录超过的时间,默认为10s)
log-queries-not-using-indexes (log下来没有使用索引的query,可以根据情况决定是否开启)
log-long-format (如果设置了,所有没有使用索引的查询也将被记录)
Windows操作系统中
在my.ini的[mysqld]添加如下语句:
log-slow-queries = E:\web\mysql\log\mysqlslowquery.log
long_query_time = 3(其他参数如上)
执行一条慢SQL,因为我们前面已经设置好了慢SQL时间为3秒,所以,我们只要执行一条SQL时间超过3秒即可。
SELECT SLEEP(4);
该SQL耗时4.024秒,下面我们就来查看慢SQL出现了多少条。
使用命令:
show global status like '%Slow_queries%';
查询SQL历程
找到慢SQL日志文件,打开后就会出现类似下面这样的语句;
# Time: 2021-07-20T09:17:49.791767Z
# User@Host: root[root] @ localhost [] Id: 150
# Query_time: 0.002549 Lock_time: 0.000144 Rows_sent: 1 Rows_examined: 4079
SET timestamp=1566292669;
select * from city where Name = 'Salala';
简单说明:
1.Time 该日志记录的时间
2.User @Host MySQL登录的用户和登录的主机地址
3.Query_time一行 第一个时间是查询的时间、第二个是锁表的时间、第三个是返回的行数、第四个是扫描的行数
4.SET timestamp 这一个是MySQL查询的时间
5.sql语句 这一行就很明显了,表示的是我们执行的sql语句
切记
如果你将long_query_time=0 ,那就意味着,我们所有的查询SQL语句都会输出到慢SQL日志文件中。
如何定位慢SQL?
通常我们定位慢SQL有两种方式:
第一种:定位慢查询SQL可以通过两个表象进行判断
系统级表象:
使用sar命令和top命令查看当前系统的状态
也可以使用Prometheus和Grafana监控工具查看当前系统状态
CPU消耗严重
IO等待严重
页面响应时间过长
项目日志出现超时等错误
SQL语句表象:
SQL语句冗长
SQL语句执行时间过长
SQL从全表扫描中获取数据
执行计划中的rows和cost很大
第二种:根据不同的数据库使用不同的方式获取问题SQL
MySQL:
慢查询日志
测试工具loadrunner
ptquery工具
Oracle:
AWR报告
测试工具loadrunner
相关内部视图vsession_wait
GRID CONTROL监控工具
熟悉慢SQL日志分析工具吗?
如果开启了慢SQL日志后,可能会有大量的慢SQL日志产生,此时再用肉眼看,那是不太现实的,所以大佬们就给我搞了个工具:mysqldumpslow。
mysqldumpslow能将相同的慢SQL归类,并统计出相同的SQL执行的次数,每次执行耗时多久、总耗时,每次返回的行数、总行数,以及客户端连接信息等。
通过命令
mysqldumpslow --help
可以看到相关参数的说明:
~# mysqldumpslow --help
Usage: mysqldumpslow [ OPTS... ] [ LOGS... ]
Parse and summarize the MySQL slow query log. Options are
--verbose verbose
--debug debug
--help write this text to standard output
-v verbose
-d debug
-s ORDER what to sort by (al, at, ar, c, l, r, t), 'at' is default
al: average lock time
ar: average rows sent
at: average query time
c: count
l: lock time
r: rows sent
t: query time
-r reverse the sort order (largest last instead of first)
-t NUM just show the top n queries
-a don't abstract all numbers to N and strings to 'S'
-n NUM abstract numbers with at least n digits within names
-g PATTERN grep: only consider stmts that include this string
-h HOSTNAME hostname of db server for *-slow.log filename (can be wildcard),
default is '*', i.e. match all
-i NAME name of server instance (if using mysql.server startup script)
-l don't subtract lock time from total time
比较常用的参数有这么几个:
-s 指定输出的排序方式
t : 根据query time(执行时间)进行排序;
at : 根据average query time(平均执行时间)进行排序;(默认使用的方式)
l : 根据lock time(锁定时间)进行排序;
al : 根据average lock time(平均锁定时间)进行排序;
r : 根据rows(扫描的行数)进行排序;
ar : 根据average rows(扫描的平均行数)进行排序;
c : 根据日志中出现的总次数进行排序;
-t 指定输出的sql语句条数;
-a 不进行抽象显示(默认会将数字抽象为N,字符串抽象为S);
-g 满足指定条件,与grep相似;
-h 用来指定主机名(指定打开文件,通常慢查询日志名称为“主机名-slow.log”,用-h exp则表示打开exp-slow.log文件);
使用方式
mysqldumpslow常用的使用方式如下:
# mysqldumpslow -s c slow.log
如上一条命令,应该是mysqldumpslow最简单的一种形式,其中-s参数是以什么方式排序的意思,c指代的是以总数从大到小的方式排序。-s的常用子参数有:c: 相同查询以查询条数和从大到小排序。t: 以查询总时间的方式从大到小排序。l: 以查询锁的总时间的方式从大到小排序。at: 以查询平均时间的方式从大到小排序。al: 以查询锁平均时间的方式从大到小排序。
同样的,还可以增加其他参数,实际使用的时候,按照自己的情况来。
其他常用方式:
# 得到返回记录集最多的10 个SQL
mysqldumpslow -s r -t 10 /var/lib/mysql/atguigu-slow.log
# 得到访问次数最多的10 个SQL
mysqldumpslow -s c -t 10 /var/lib/mysql/atguigu-slow.log
# 得到按照时间排序的前10 条里面含有左连接的查询语句
mysqldumpslow -s t -t 10 -g "left join" /var/lib/mysql/atguigu-slow.log
# 另外建议在使用这些命令时结合| 和more 使用,否则有可能出现爆屏情况
mysqldumpslow -s r -t 10 /var/lib/mysql/atguigu-slow.log | more
接下,我们来个实际操作。
实操
root@yunzongjitest1:~# mysqldumpslow -s t -t 3
Reading mysql slow query log from /var/lib/mysql/exp-slow.log /var/lib/mysql/yunzongjitest1-slow.log
Count: 464 Time=18.35s (8515s) Lock=0.01s (3s) Rows=90884.0 (42170176), root[root]@localhost
select ************
Count: 38 Time=11.22s (426s) Lock=0.00s (0s) Rows=1.0 (38), root[root]@localhost
select *********** not like 'S'
Count: 48 Time=5.07s (243s) Lock=0.02s (1s) Rows=1.0 (48), root[root]@localhost
select ********='S'
这其中的SQL语句因为涉及某些信息,所以我都用*号将主体替换了,如果希望得到具体的值,使用-a参数。
使用mysqldumpslow查询出来的摘要信息,包含了这些内容:
Count: 464 :表示慢查询日志总共记录到这条sql语句执行的次数;
Time=18.35s (8515s):18.35s表示平均执行时间(-s at),8515s表示总的执行时间(-s t);
Lock=0.01s (3s):与上面的Time相同,第一个表示平均锁定时间(-s al),括号内的表示总的锁定时间(-s l)(也有另一种说法,说是表示的等待锁释放的时间);
Rows=90884.0 (42170176): 第一个值表示扫描的平均行数(-s ar),括号内的值表示扫描的总行数(-s r)。
是不是 so easy!!!!
很多朋友私下跟我说今年面试太难了,能不能整理一个大厂Java面试合集,这样也不用到处找资料,于是我花了一年的时间陆陆续续完成了整理,这些面试题都是互联网大厂真实流出的面试内容,每个问题都附带完整详细的答案,不像网上的那些资料三教九流有的甚至还没答案,这些面试题我也是经过日积月累才整理出来的精品资料。
面试题主要是针对1-5年左右的Java开发程序员提升的,不管是传统行业还是互联网行业,掌握这些技术基本都能拿到一个不错的薪资,希望对大家有所帮助。
深圳、上海、杭州、北京、广州真实Java面试题
北京-百度-Java中级.pdf
北京-京东-Java实习生.pdf
杭州-阿里云Java实习生.pdf
杭州-蚂蚁金服-Java高级pdf
杭州-蚂蚁金服-资深工程师.pdf
南京-软通动力-Java初级pdf
厦门-中软国际-Java初级.pdf
上海拼多多-Java高级.pdf
上海携程-Java高级.pdf
深圳-OPPOJava高级.pdf
深圳-丰巢科技-Java高级.pdf
深圳|乐信-Java高级.pdf
深圳-蚂蚁金服-Java高级.pdf
深圳-商汤科技-Java高级pdf
深圳|腾讯-Java高级.pdf
深圳-银盛支付-Java中级.pdf
深圳-中国平安-Java中级.pdf
Java企业面试真题合辑(上) .docx
Java企业面试真题合辑(上) .pdf
Java企业面试真题合辑(下) .pdf
Java程序员面试笔试宝典.pdf
Java程序员面试笔试真题库-完整版.pdf
Java企业笔试真题收录大全-最新版.pdf
广州唯品会Java大数据开发工程师.pdf
阿里巴巴Java面试题
阿里巴巴校招研发.pdf
阿里巴巴Javascript面试题.pdf
阿里巴巴一蚂蚁金服 Java面试题.pdf
阿里巴巴前端开发I程师笔试二.pdf
阿里巴巴前端开发工程师笔试- - .pdf
阿里巴巴研发工程师笔试选择题二.pdf
阿里巴巴研发工程师笔试选择题三.pdf
阿里巴巴研发工程师笔试选择题四.pdf
阿里巴巴研发工程师笔试选择题一.pdf
阿里巴巴DBA面试题[笔试面试] -2..pdf
史上最全阿里巴巴JAVA面试题总览.pdf
阿里巴巴校招测试开发工程师在线笔试题- 1.pdf
阿里巴巴腾讯华为小米搜狗笔试面试八十题-5.pdf
百度Java面试题
百度试题.pdf
百度校园招聘笔试题WEB前端工程师-电子科技大学pdf
百度人搜,阿里巴巴,腾讯华为小米搜狗笔试面试八十题-6.pdf
互联网大型公司(阿里腾讯百度等) android面试题目 (有答案).com.pdf
腾讯Java面试题
腾讯试题.pdf
腾讯Java面试题.pdf
腾讯Java_工程师笔试题.pdf
腾讯研发I程师笔试真题二.pdf
腾讯研发工程师笔试真题三.pdf
腾讯研发工程师笔试真题一.pdf
腾讯高级软件_工程师、项目经理面试题- 4.pdf
字节跳动Java面试题
字节跳动面试题.pdf
字节跳动(今日头条、抖音) .pdf
字节跳动今日头条、抖音)往期面试真题.pdf
腾讯、阿里、字节跳动、百度、美团Java面试题合集
阿里面试集锦.docx
阿里面试题目总结-6.docx
阿里面试问题总结.docx
字节跳动(抖音面试题) .docx
最新BAT大数据面试题.docx
腾讯201 6研发I程师编程题_-.docx
阿里高级Java面试题70道.docx
腾讯201 6研发I程师编程题5.docx
最新BAT《前端必考面试》.docx
最全的阿里java面经(清晰版) .pdf
最新BAT java经典必考面试题.docx
阿里实习生客户端笔试题目解析-3.docx
腾讯校招Java、测试工程师笔试题com.docx
字节跳动前端工程师实习生笔试题汇总.docx
百度、腾讯、头条、美团的ava面试题目总结.docx
百度、腾讯、头条、美团的Java面试题目总结.com.docx