热门标签 | HotTags
当前位置:  开发笔记 > 编程语言 > 正文

SqlServer查询性能优化之走出索引的误区

据了解绝大多数开发人员对于索引的理解都是一知半解,局限于大多数日常工作没有机会、也什么没有必要去关心、了解索引,实在哪天某个查询太慢了找到查询条件建个索引就ok,哪天又有个查询慢了

  据了解绝大多数开发人员对于索引的理解都是一知半解,局限于大多数日常工作没有机会、也什么没有必要去关心、了解索引,实在哪天某个查询太慢了找到查询条件建个索引就ok,哪天又有个查询慢了,再建立个索引就是,或者干脆把整个查询SQL直接发给DBA,让DBA直接帮忙优化了,所以造成的状况就是开发人员对于索引的理解、认识很局限,以下就把我个人对于索引的理解及浅薄认识和大家分享下,希望能解除一些大家的疑惑,一起走出索引的误区

 误区1.在表上建立了索引,在查询时用到了索引的列,索引就一定会生效

  首先明确下这样的观点是错误的,SQL Server查询优化器是基于开销进行选择的优化器,通过一系列复杂判断来决定是否使用索引、使用什么类型索引、使用那个索引。SQL Server内部维护着索引列上的数据的统计,统计信息会随着索引列内容的变化而变化,索引的有效期完全取决于索引列上的统计信息,随着数据的变化关于索引的检索机制也随之变化。对于查询优化器来说始终保持查询开销最低始终是其的不二选择,如果一个非聚集索引的列上有大量的重复值,那么这个索引就不会有什么存在的意义,这也是为什么不建议在类似性别,bit类型上面建立非聚集索引的原因。

  说到这里可能会有人疑惑,我在性别列上建一个索引,性别只有两个值男、女,当我我们查询条件中有性别这个字段时最起码会过滤掉一半的数据,能大幅缩小我们需要检索的数据范围,怎么会没用呢?(事实上这也是我曾经困惑的地方),对我们理解的没错,比如说Users表性别列Gender上建立索引IX_Gender,执行select Gender from Users where Gender='男' ,这个查询效率非常高而且也成功使用了索引IX_Gender,然而我们这样写SQL的时候少之又少,更多的我们会写这样的SQL:select UserID,UserName,Phone,Email  from Users where Gender='男' 这时再去看看查询计划根本没用使用索引IX_Gender,而是进行了一个聚集索引扫描或者表扫描,查询条件where Gender='男' 明明在IX_Gender里面定义了,为什么没使用呢,这一切罪恶的根源就在于书签查找(RID、键查找),好了关于书签查找不是我们要讨论的话题,在这里只想告诉大家,索引不是万能的,索引不是创建了就一定有效。

误区2.聚集索引扫描用到了聚集索引索引,所以性能很高

  一般来说我们可以认为聚集索引是效率最高的索引,但聚集索引扫描绝不代表高效,本质上聚集索引扫描就是表扫描,一般出现扫描字样时代表缺少索引或者索引无效,所以我们日常应用中应该避免在查询计划中看到扫描字样,更多的出现聚集索引查找、索引查找才真正的使用到了索引,才是王道。

误区3.聚集索引扫描(表扫描)是全表扫描,所以只要出现了表扫描就一定代表性能低下

  在误区2中我们说到应该尽量避免出现聚集索引扫描或者表扫描,这是我们必须要坚持的原则,但这并不代表这出现表扫描就一定性能低下,有些情况下表扫描反而比索引查找有着更高的效率(一般出现在返回数据量较大,出现大量书签查找的情况下)

误区4.查询计划中看到了键查找或者RID查找时有着很高的性能

  键查找和RID查找统称为书签查找,和错误认识正好相反,出现书签查找反而代表着性能低下,有些情况下甚至有着比表扫描更低的效率,因此我们应该尽量避免书签查找。在返回数据量较小时,书签查找对性能影响不大,若返回数据量较大,书签查找会严重影响查询性能,因此我们建立索引时应该尽量覆盖要返回的所有列,当然索引列数是有限的而且也不能单纯的为了避免书签查找而在索引中包含大量的列,可以使用覆盖索引来解决书签查找问题,或者需要大数据量返回时尽量使用聚集索引;同时这也是为什么常听说的不要使用select *,而只选择需要的列进行输出,因为select *很容易导致书签查找,毕竟我们不打可能在所有列上建立索引,也不可能所有查询都使用聚集索引(使用聚集索引和表扫描时不存在书签查找)

误区5.查询开销统计中的逻辑读次数是读取的记录数

  天真的我曾经也这么认为,查询计划中逻辑读次数就是读取的记录数,然而看我们的查询4.1全表扫描返回830行数据,为啥逻辑读只有22次,而查询4.5同样是返回830行数据,逻辑读为啥1724次呢,一次读取一条的话逻辑读22次最多返回22行数据,逻辑读1724次的话应该返回1724条数据吧,有点小晕,这里解释下逻辑读次数是指读取的页面数,一个面8KB,8个页面构成一个区64KB,对于我们的示例表来说22个页面足以存下所有数据,所以表扫描时只需读取22次就可以了,那查询4.5为啥读取了1724次呢,就算一个页面就一条数据按理说最多800多次也可以读取完毕了,这是因为Sql Server对数据读取的最小单位就是页,哪怕读取一条数据也需要读取整页数据,而非聚集索引的读是随机读哪怕多条记录在同一页上也会导致多次重复读取,外加书签查找导致了这么多的逻辑读,这也是为什么非聚集索引不适合读取大量数据的原因之一。

 

我们以Northwind数据库表Orders表为示例进行下演示

 1.先将Orders表的索引全部删除
 4.在OrderID上面创建聚集索引,索引列为OrderID  

create unique clustered index IX_OrderID on Orders(OrderID)

 

3.在Orders表上创建非聚集索引IX_OrderDate

create index IX_OrderDate on Orders(OrderDate)

4.设置查询分析器选中包含实际的执行计划(右键-->包含实际的执行计划),打开IO统计,并依次执行以下查询

set statistics io on

select * from Orders
select * from Orders  where OrderDate<='1996-7-10'
select * from Orders  where OrderDate<='1997-1-1'

--强制使用索引IX_OrderDate 查询日期1997-1-1
select * from Orders with(index=IX_OrderDate)  where OrderDate<='1997-1-1'

--强制使用索引IX_OrderDate查询日2000-1-1
select * from Orders with(index=IX_OrderDate)  where OrderDate<='2001-1-1'

 

  4.1 执行 select * from Orders 的查询开销及查询计划
    可以看到执行的聚集索引扫描,逻辑读22次,没有使用索引,返回行数830行
    Sql Server查询性能优化之走出索引的误区Sql Server查询性能优化之走出索引的误区

  4.2 执行 select * from Orders  where OrderDate<='1996-7-10' 的查询开销借查询计划
    可以看到成功使用了在OrderDate上面建立的索引IX_OrderDate,逻辑读次数为14,返回行数6行

  Sql Server查询性能优化之走出索引的误区Sql Server查询性能优化之走出索引的误区

  4.3 执行 select * from Orders  where OrderDate<='1997-1-1' 的查询开销及查询计划
    可以看到虽然我们在OrderDate上面建立了索引IX_OrderDate,但执行计划并没有使用索引IX_OrderDate而是执行了一个聚集索引扫描,逻辑读次数22而这个查询与4.2的区别仅仅在于OrderDate的值不一样,返回行数154行
  Sql Server查询性能优化之走出索引的误区Sql Server查询性能优化之走出索引的误区
  4.4 执行 select * from Orders with(index=IX_OrderDate)  where OrderDate<='1997-1-1' 的查询开销及查询计划
    可以看到查询条件和4.3完全一致,我们强制使用了IX_OrderDate,返回记录数和4.3完全一致,但逻辑读达到了328次,返回行数154行
    Sql Server查询性能优化之走出索引的误区
    Sql Server查询性能优化之走出索引的误区

  4.5 执行 select * from Orders with(index=IX_OrderDate)  where OrderDate<='2001-1-1' 查询开销及查询计划

    同样我们强制使用了索引IX_OrderDate,查询条件进行改变,逻辑读达到了1724次,返回行数数830行
    Sql Server查询性能优化之走出索引的误区

    Sql Server查询性能优化之走出索引的误区

 

查询统计
查询SQL 索引 返回行数 逻辑读次数
4.1 select * from Orders 聚集索引扫描 830 22
4.2 select * from Orders  where OrderDate<='1996-7-10' IX_OrderDate 6 14
4.3 select * from Orders  where OrderDate<='1997-1-1' 聚集索引扫描 154 22
4.4 select * from Orders with(index=IX_OrderDate)  where OrderDate<='1997-1-1' 强制使用IX_OrderDate 154 328
4.5 select * from Orders with(index=IX_OrderDate)  where OrderDate<='2001-1-1' 强制使用IX_OrderDate 830 1724

 通过对比以上查询我们可以知道虽然我们建立了索引,但索引并不总是有效,强制使用索引只会带来更低的效率,查询优化器会根据索引列的统计信息自动选择最优的查询计划进行执行。查询4.3和4.4查询条件完全一样,虽然我们建立了索引IX_OrderDate,但查询优化器并没有采用而是选择了开销更低的聚集索引扫描,在我们强制使用了索引后查询开销反而激增从逻辑读22次达到了328次,而我们仅仅查询到了154行数据;在查询4.5中我们继续强制使用索引,改变查询条件的值,在返回830行数据的情况下逻辑读次数达到了1724次,而返回相同数据的查询4.1仅仅执行了22次逻辑读。

  困惑:通过查询4.1我们知道Orders表一共才有830条数据,为什么我们在查询4.5中强制使用索引后逻辑读达到了恐怖的1724次呢,即便一条数据读取一次也才不过830次啊。

  解惑:查询4.5强制使用索引后,查询优化器首先去到索引IX_OrderDate上面检索,然后在根据索引IX_OrderDate去找聚集索引指针,根据聚集索引指针去聚簇索引叶子节点(实际数据行)查找数据(书签查找),才导致了更大的查询开销。

  结论:
    1.索引不是万能的,查询列上建立了索引不代表就一定会使用索引(参见结论2)
    2.绝大多数情况下查询优化器会根据索引列上的数据统计信息自动选择最优的执行计划,而且查询计划会随着数据量变化而变化,所以如果不是有必要不要使用索引提示来强制使用某索引
    3.聚集索引扫描、表扫描不代表一定低效(表扫描不存在书签查找,使用非聚集索引返回大量行时,若存在书签查找反而不如表扫描性能高)
    4.索引查找不一定高效(非聚集索引查找时容易出现书签查找)
    5.书签查找会降低查询效率,尤其是大范围读取数据时会严重影响效率,所以应该尽量避免书签查找或出现书签查找时尽量返回较少的数据行
    6.需要注意下查询开销统计里的逻辑读是指读取的页面数而不是数据行数

 

 示例中采用的语句及数据仅作为演示使用,实际开发应用中要比示例的数据复杂的多,同一个查询在不同的环境下可能产生完全相反的结果,如何应用好还主要在于我们个人的认识和理解,希望有幸看到本文的朋友能借此加深一些对索引的理解和认识,走出索引的误区,开发出高性能的应用。

  本人不是DBA,只是一名普通的开发人员,以上均为实际工作中的一些经验、体会,鉴于本人水平非常有限,有说的不对或理解不到位的地方还望各位大神给予指正,以免误导他人,不胜感激。

后续会继续写一些关于Sql Server查询性能优化方面的实践经验,主要包含以下几方面
Sql Server查询性能优化之建立合理的索引
Sql Server查询性能优化之避免书签查找
Sql Server查询性能优化之复用查询计划
Sql Server查询性能优化之选择合适的字段类型 

附上用的数据表:DemoDB.rar 

从Northwind数据库分离出来的,仅用了其中的Orders表


推荐阅读
  • 本文介绍了一个在线急等问题解决方法,即如何统计数据库中某个字段下的所有数据,并将结果显示在文本框里。作者提到了自己是一个菜鸟,希望能够得到帮助。作者使用的是ACCESS数据库,并且给出了一个例子,希望得到的结果是560。作者还提到自己已经尝试了使用"select sum(字段2) from 表名"的语句,得到的结果是650,但不知道如何得到560。希望能够得到解决方案。 ... [详细]
  • 本文介绍了如何使用php限制数据库插入的条数并显示每次插入数据库之间的数据数目,以及避免重复提交的方法。同时还介绍了如何限制某一个数据库用户的并发连接数,以及设置数据库的连接数和连接超时时间的方法。最后提供了一些关于浏览器在线用户数和数据库连接数量比例的参考值。 ... [详细]
  • 本文详细介绍了SQL日志收缩的方法,包括截断日志和删除不需要的旧日志记录。通过备份日志和使用DBCC SHRINKFILE命令可以实现日志的收缩。同时,还介绍了截断日志的原理和注意事项,包括不能截断事务日志的活动部分和MinLSN的确定方法。通过本文的方法,可以有效减小逻辑日志的大小,提高数据库的性能。 ... [详细]
  • 本文介绍了数据库的存储结构及其重要性,强调了关系数据库范例中将逻辑存储与物理存储分开的必要性。通过逻辑结构和物理结构的分离,可以实现对物理存储的重新组织和数据库的迁移,而应用程序不会察觉到任何更改。文章还展示了Oracle数据库的逻辑结构和物理结构,并介绍了表空间的概念和作用。 ... [详细]
  • 本文详细介绍了MysqlDump和mysqldump进行全库备份的相关知识,包括备份命令的使用方法、my.cnf配置文件的设置、binlog日志的位置指定、增量恢复的方式以及适用于innodb引擎和myisam引擎的备份方法。对于需要进行数据库备份的用户来说,本文提供了一些有价值的参考内容。 ... [详细]
  • 使用Ubuntu中的Python获取浏览器历史记录原文: ... [详细]
  • 本文由编程笔记小编整理,介绍了PHP中的MySQL函数库及其常用函数,包括mysql_connect、mysql_error、mysql_select_db、mysql_query、mysql_affected_row、mysql_close等。希望对读者有一定的参考价值。 ... [详细]
  • 图解redis的持久化存储机制RDB和AOF的原理和优缺点
    本文通过图解的方式介绍了redis的持久化存储机制RDB和AOF的原理和优缺点。RDB是将redis内存中的数据保存为快照文件,恢复速度较快但不支持拉链式快照。AOF是将操作日志保存到磁盘,实时存储数据但恢复速度较慢。文章详细分析了两种机制的优缺点,帮助读者更好地理解redis的持久化存储策略。 ... [详细]
  • 基于事件驱动的并发编程及其消息通信机制的同步与异步、阻塞与非阻塞、IO模型的分类
    本文介绍了基于事件驱动的并发编程中的消息通信机制,包括同步和异步的概念及其区别,阻塞和非阻塞的状态,以及IO模型的分类。同步阻塞IO、同步非阻塞IO、异步阻塞IO和异步非阻塞IO等不同的IO模型被详细解释。这些概念和模型对于理解并发编程中的消息通信和IO操作具有重要意义。 ... [详细]
  • 高质量SQL书写的30条建议
    本文提供了30条关于优化SQL的建议,包括避免使用select *,使用具体字段,以及使用limit 1等。这些建议是基于实际开发经验总结出来的,旨在帮助读者优化SQL查询。 ... [详细]
  • 本文讨论了在数据库打开和关闭状态下,重新命名或移动数据文件和日志文件的情况。针对性能和维护原因,需要将数据库文件移动到不同的磁盘上或重新分配到新的磁盘上的情况,以及在操作系统级别移动或重命名数据文件但未在数据库层进行重命名导致报错的情况。通过三个方面进行讨论。 ... [详细]
  • 前景:当UI一个查询条件为多项选择,或录入多个条件的时候,比如查询所有名称里面包含以下动态条件,需要模糊查询里面每一项时比如是这样一个数组条件:newstring[]{兴业银行, ... [详细]
  • MyBatis多表查询与动态SQL使用
    本文介绍了MyBatis多表查询与动态SQL的使用方法,包括一对一查询和一对多查询。同时还介绍了动态SQL的使用,包括if标签、trim标签、where标签、set标签和foreach标签的用法。文章还提供了相关的配置信息和示例代码。 ... [详细]
  • web.py开发web 第八章 Formalchemy 服务端验证方法
    本文介绍了在web.py开发中使用Formalchemy进行服务端表单数据验证的方法。以User表单为例,详细说明了对各字段的验证要求,包括必填、长度限制、唯一性等。同时介绍了如何自定义验证方法来实现验证唯一性和两个密码是否相等的功能。该文提供了相关代码示例。 ... [详细]
  • 本文介绍了OpenStack的逻辑概念以及其构成简介,包括了软件开源项目、基础设施资源管理平台、三大核心组件等内容。同时还介绍了Horizon(UI模块)等相关信息。 ... [详细]
author-avatar
cindy蔡79
这个家伙很懒,什么也没留下!
PHP1.CN | 中国最专业的PHP中文社区 | DevBox开发工具箱 | json解析格式化 |PHP资讯 | PHP教程 | 数据库技术 | 服务器技术 | 前端开发技术 | PHP框架 | 开发工具 | 在线工具
Copyright © 1998 - 2020 PHP1.CN. All Rights Reserved | 京公网安备 11010802041100号 | 京ICP备19059560号-4 | PHP1.CN 第一PHP社区 版权所有