1 / 64

第九章 关系查询处理和查询优化

第九章 关系查询处理和查询优化. 本章学习内容. 索引的创建及管理 关系数据库系统的查询处理 关系数据库系统的查询优化 代数优化 物理优化. 一、索引的创建及管理. 问题 1 ：表上必须建立索引么？ 答案：否；没有建立索引的数据库和表可以正常工作； 问题 2 ：什么时候需要在表上建立索引？ 举例 1 ：到一座大厦找人 逐个房间去找； 利用楼层分布图快速找到要去的房间； （楼层分布图 = 索引） 举例 2 ：看一部小说 逐个查看每页找到指定的内容； 通过翻阅目录快速浏览指定内容； （目录 = 索引）.

candice-black
Download Presentation

第九章 关系查询处理和查询优化

An Image/Link below is provided (as is) to download presentation Download Policy: Content on the Website is provided to you AS IS for your information and personal use and may not be sold / licensed / shared on other websites without getting consent from its author. Content is provided to you AS IS for your information and personal use only. Download presentation by click this link. While downloading, if for some reason you are not able to download a presentation, the publisher may have deleted the file from their server. During download, if you can't get a presentation, the file might be deleted by the publisher.

E N D

Presentation Transcript

  1. 第九章 关系查询处理和查询优化

  2. 本章学习内容 • 索引的创建及管理 • 关系数据库系统的查询处理 • 关系数据库系统的查询优化 • 代数优化 • 物理优化

  3. 一、索引的创建及管理 问题1：表上必须建立索引么？ • 答案：否；没有建立索引的数据库和表可以正常工作； 问题2：什么时候需要在表上建立索引？ • 举例1：到一座大厦找人 • 逐个房间去找； • 利用楼层分布图快速找到要去的房间；（楼层分布图=索引） • 举例2：看一部小说 • 逐个查看每页找到指定的内容； • 通过翻阅目录快速浏览指定内容；（目录=索引）

  4. 可把数据表理解为大厦和图书，那么索引就好比是大厦的楼层分布图和图书的目录，作用是提供对数据的快速定位功能；可把数据表理解为大厦和图书，那么索引就好比是大厦的楼层分布图和图书的目录，作用是提供对数据的快速定位功能； • 数据库中的索引是一个表中所包含的值（一列或者若干列）的列表，其中注明了这些值的记录在数据表中的存储位置的物理地址； • 在数据库中，索引使数据库程序无须对整个表进行扫描，就可以在其中找到所需数据；尤其是当表的数据很多，而SELECT查询又非常频繁时，建立索引和不建立索引在查询数据时会有很大差异。

  5. 问题3：为什么索引可以加快查询速度？ • 索引也是由记录组成，每行记录包括表中的一列或者多列值的集合，而不是表中所有数据，相应地指向表中物理地址的逻辑指针（房间号）； • 这样，当我们要查询数据时，就可以快速比较列值，然后只接到物理数据页中提取数据，所以可以大大加快速度； 问题4：创建的索引一定会被使用么？ • 索引是否建立由用户需要决定，而索引是否使用有数据库引擎中的查询优化器决定；执行查询时，查询优化器会自动评估能够用于检索数据的每个方法，然后选择最有效的方法。

  6. 索引相关内容： • 创建索引的必要性 • 索引的类型 • 建立索引 • 查看索引 • 删除索引

  7. 1、创建索引的必要性 • 考虑创建索引的情况： • 定义有主关键字和外部关键字的列； • 需在指定范围中快速或频繁查询的列； • 需要按排序顺序快速或频繁检索的列； • 在集合过程中需要快速或频繁组合到一起的列 ； • 考虑不创建索引的情况： • 只有较少行数的表没必要建索引； • 在查询中几乎不涉及的列； • 很少有唯一值的列如记录“性别”的列； • 由text,ntext或image数据类型定义的列 ；

  8. 2、索引的类型 聚集索引与非聚集索引是从索引数据存储的角度来区分的；而唯一索引是从索引取值来区分的； • 1）聚集索引（Clustered Index） • 聚集索引确定表中数据的物理顺序，索引存储值的顺序和数据物理顺序一致；建立索引时，系统将对表的物理数据页中的数据按列排序，然后再重新存储到磁盘上，即聚集索引与数据是混为一体的，它的叶节点中存储是实际数据； • 我们把正文本身就是一种按照一定规则排列的索引称为”聚集索引“。 • 一个表只能建立一个聚集索引，因为数据只能按照一种方法进行排序

  9. 2）非聚集索引（Nonclustered Index） • 非聚集索引中的数据排列顺序和表中数据排列顺序不同； • 查询速度慢，维护代价小； • 3）惟一索引（Unique Index） • 指索引值必须是惟一的； • 建立了主键，SQL会自动默认建立一个惟一索引； • 惟一索引和非惟一索引即可以是聚集索引，也可以是非聚集索引；

  10. 3、建立索引 （P89） • 建立不能被SQL Server所采用的索引只会增加系统的负担，降低检索的速度； • 若用索引查询的速度不如扫描法速度快，系统仍会采用表扫描法进行检索； • SQL Server只选用那些能加快数据的查询速度的索引，可利用性是建立索引的首要条件 ；

  11. 使用T-SQL命令创建索引语法格式： CREATE [UNIQUE] [ clustered | nonclustered] ] INDEX index_name ON [[database.]ower.] {table_name|view_name} (column1 [asc | desc] [, column2 …]) UNIQUE：索引关键字字段上不允许有相同内容的记录；

  12. 备注： • 系统会在增加主键时自动创建一个聚集索引，除非你给它指定一个非聚集索引。当删除PRIMARY KEY约束或UNIQUE约束时，这些列上创建的聚集索引也会被自动删除； • 每张表只能存在一个聚集索引 ； • 若在表中存在重复值的列上创建唯一索引, CREATE INDEX语句将失败并返回错误信息； • 不仅可以为表中的单个列建立索引，也可以为表中的一组列建立索引，即复合索引；

  13. 例1：在stu数据库中的student表的SName列上创建聚集索引SnoIndex；例1：在stu数据库中的student表的SName列上创建聚集索引SnoIndex； USE stu GO CREATE CLUSTERED INDEX SnameIndex ON student(Sname)

  14. 例2：在stu数据库中的Course表的cno列上创建唯一索引cnoIndex；例2：在stu数据库中的Course表的cno列上创建唯一索引cnoIndex； CREATE UNIQUE INDEX cnoIndex ON course (cno) 例3：在stu数据库中的sc表的sno列和cno列上创建复合索引scindex，其中按照sno升序cno降序排列； CREATE INDEX scindex ON sc (sno ，cno desc)

  15. 4、查看并删除索引 • 查看索引定义文本： EXEC sp_helptext index_name • 查看表中索引：EXEC sp_helpindex table_name • 查看库中索引：SELECT name from sysindex • 更改索引名称：EXEC sp_rename OldName, NewName

  16. 5、删除索引 • 如果数据增删改频繁，系统需花很多时间来维护索引，降低了查询效率，这时，可以删除一些不必要的索引； • 删除索引：DROP INDEX index_name

  17. 二、关系数据库系统的查询处理 • 查询处理的任务： • 把用户提交给RDBMS的查询语句转换为高效的执行计划； • 查询处理步骤 • 查询分析 • 查询检查 • 查询优化 • 查询执行

  18. 1、查询处理步骤

  19. 1）查询分析 • 对查询语句进行扫描、词法分析和语法分析； • 从查询语句中识别出语言符号（如SQL关键字、属性名和关系名等）； • 进行语法检查和语法分析，判断查询语句是否符合SQL语法规则；

  20. 2）查询检查 • 根据数据字典对合法的查询语句进行语义检查； • 根据数据字典中的用户权限和完整性约束定义对用户的存取权限进行检查； • 检查通过后把SQL查询语句转换成等价的关系代数表达式 • RDBMS一般都用查询树(语法分析树)来表示扩展的关系代数表达式； • 还需要把数据库对象的外部名称转换为内部表示；

  21. 3）查询优化（Query optimization） • 查询优化：选择一个高效执行的查询处理策略； • 查询优化分类 ： • 代数优化：指关系代数表达式的优化 • 物理优化：指存取路径和底层操作算法的选择 • 查询优化方法选择的依据： • 基于规则(rule based) • 基于代价(cost based) • 基于语义(semantic based)

  22. SELECT 语句是非程序性的，它不规定数据库服务器检索请求的数据的确切步骤。这意味着数据库服务器必须分析语句，以决定提取所请求数据的最有效方法。这称之为“优化 SELECT 语句”。 • 处理此过程的组件称为“查询优化器”。优化器的输入包括查询、数据库方案（表和索引的定义）以及数据库统计信息。优化器的输出称为“查询执行计划”，有时也称为“查询计划”或直接称为“计划”。

  23. 4）查询执行 • 依据优化器得到的执行策略生成查询计划； • 代码生成器(code generator)生成执行查询计划的代码 ；

  24. 2、实现查询操作的算法示例 1）选择操作的实现 • 例1：Select * from student where <条件表达式> ； 考虑<条件表达式>的几种情况： C1：无条件； C2：Sno＝'200215121'； C3：Sage>20； C4：Sdept＝'CS' AND Sage>20；

  25. 选择操作典型实现方法： • 1. 简单的全表扫描方法 • 对查询的基本表顺序扫描，逐一检查每个元组是否满足选择条件，把满足条件的元组作为结果输出 ； • 适合小表，不适合大表 • 2. 索引(或散列)扫描方法 • 适合选择条件中的属性上有索引(例如B+树索引或Hash索引) • 通过索引先找到满足条件的元组主码或元组指针，再通过元组指针直接在查询的基本表中找到元组

  26. 以C2为例，Sno＝‘200215121’，并且Sno上有索引 • 使用索引(或散列)得到Sno为‘200215121’ 元组的指针 • 通过元组指针在student表中检索到该学生； • 以C3为例，Sage>20，并且Sage 上有B+树索引 • 使用B+树索引找到Sage＝20的索引项，以此为入口点在B+树的顺序集上得到Sage>20的所有元组指针； • 通过这些元组指针到student表中检索到所有年龄大于20的学生。

  27. B+树结构： • B+树（Balanced树，平衡多叉树）

  28. 以C4为例，Sdept＝‘CS’ AND Sage>20，如果Sdept和Sage上都有索引： • 算法一：分别用上面两种方法分别找到Sdept＝‘CS’的一组元组指针和Sage>20的另一组元组指针； • 求这2组指针的交集 • 到student表中检索 • 得到计算机系年龄大于20的学生 • 算法二：找到Sdept＝‘CS’的一组元组指针； • 通过这些元组指针到student表中检索 • 对得到的元组检查另一些选择条件(如Sage>20)是否满足 • 把满足条件的元组作为结果输出。

  29. 2）连接操作的实现 • 连接操作是查询处理中最耗时的操作之一 ； • 本节只讨论等值连接(或自然连接)最常用的实现算法 ； • 例：SELECT * FROM Student，SC WHERE Student.Sno=SC.Sno； 1. 嵌套循环方法(nested loop) 2. 排序-合并方法(sort-merge join 或merge join) 3. 索引连接(index join)方法

  30. 1、嵌套循环方法(nested loop) • 对外层循环(Student)的每一个元组(s)，检索内层循环(SC)中的每一个元组(sc)； • 检查这两个元组在连接属性(sno)上是否相等； • 如果满足连接条件，则串接后作为结果输出，直到外层循环表中的元组处理完为止 ；

  31. 2. 排序-合并方法(sort-merge join 或merge join) • 适合连接的诸表已经排好序的情况 ； • 排序－合并连接方法的步骤： • 如果连接的表没有排好序，先对Student表和SC表按连接属性Sno排序 ； • 取Student表中第一个Sno，依次扫描SC表中具有相同Sno的元组 ； • 当扫描到Sno不相同的第一个SC元组时，返回Student表扫描它的下一个元组，再扫描SC表中具有相同Sno的元组，把它们连接起来； • 重复上述步骤直到Student 表扫描完；

  32. 200215121 200215122 200215123 200215124 . . . 200215121 1 92 200215121 2 85 200215121 3 88 200215122 2 90 200215122 3 80 . . . 排序-合并连接方法示意图

  33. Student表和SC表都只要扫描一遍 • 如果2个表原来无序，执行时间要加上对两个表的排序时间 • 对于2个大表，先排序后使用sort-merge join方法执行连接，总的时间一般仍会大大减少

  34. 3. 索引连接(index join)方法 • 步骤： ① 在SC表上建立属性Sno的索引，如果原来没有该索引； ② 对Student中每一个元组，由Sno值通过SC的索引查找相应的SC元组； ③ 把这些SC元组和Student元组连接起来 ； 循环执行②③，直到Student表中的元组处理完为止 。

  35. 小结 • 管理索引 • 相关操作 • RDBMS查询处理 • 查询步骤 • 查询算法

  36. 本次课学习内容 • 关系数据库系统的查询优化 • 代数优化 • 物理优化

  37. 一、关系数据库系统的查询优化 • 查询优化在关系数据库系统中有着非常重要的地位 • 关系查询优化是影响RDBMS性能的关键因素 • 由于关系表达式的语义级别很高，使关系系统可以从关系表达式中分析查询语义，提供了执行查询优化的可能性

  38. 查询优化的优点不仅在于用户不必考虑如何最好地表达查询以获得较好的效率，而且在于系统可以比用户程序的“优化”做得更好 ； • （1）优化器可以从数据字典中获取许多统计信息，而用户程序则难以获得这些信息； • （2）如果数据库的物理统计信息改变了，系统可以自动对查询重新优化以选择相适应的执行计划。在非关系系统中必须重写程序，而重写程序在实际应用中往往是不太可能的。

  39. (3)优化器可以考虑数百种不同的执行计划，程序员一般只能考虑有限的几种可能性。(3)优化器可以考虑数百种不同的执行计划，程序员一般只能考虑有限的几种可能性。 • (4)优化器中包括了很多复杂的优化技术，这些优化技术往往只有最好的程序员才能掌握。系统的自动优化相当于使得所有人都拥有这些优化技术。

  40. RDBMS通过某种代价模型计算出各种查询执行策略的执行代价，然后选取代价最小的执行方案：RDBMS通过某种代价模型计算出各种查询执行策略的执行代价，然后选取代价最小的执行方案： • 集中式数据库 • 执行开销主要包括： • 磁盘存取块数(I/O代价) • 处理机时间(CPU代价) • 查询的内存开销 • I/O代价是最主要的 • 分布式数据库 • 总代价=I/O代价+CPU代价+内存代价＋通信代价

  41. 查询优化的总目标： • 选择有效的策略； • 求得给定关系表达式的值； • 使得查询代价最小(实际上是较小) ；

  42. 实例演示（验证为何需要查询优化？） 例1： 求选修了2号课程的学生姓名。 假定学生-课程数据库中有1000条学生记录，10000条选课记录； 其中选修2号课程的选课记录为50条； 用SQL表达： SELECT Student.Sname FROM Student，SC WHERE Student.Sno=SC.Sno AND SC.Cno=‘2’

  43. 系统可以用多种等价的关系代数表达式来完成：系统可以用多种等价的关系代数表达式来完成： Q1=πSname(σStudent.Sno=SC.Sno∧Sc.Cno='2'(Student×SC)) Q2=πSname(σSc.Cno='2' (Student SC)) Q3=πSname(Student σSc.Cno='2'(SC))

  44. 1、第一种情况 • 分三个步骤： • 计算Student×SC花费时间，即计算笛卡尔积操作时间； • 计算σStudent.Sno=SC.Sno∧Sc.Cno=‘2’花费时间，即计算选择操作时间； • 计算πSname花费时间，即计算投影操作时间；

  45. 1）计算笛卡尔积时间 • 把Student和SC的每个元组连接起来的做法： • 在内存中尽可能多地装入某个表(如Student表)的若干块，留出一块存放另一个表(如SC表)的元组； • 把SC中的每个元组和Student中每个元组连接，连接后的元组装满一块后就写到中间文件上； • 从SC中读入一块和内存中的Student元组连接，直到SC表处理完； • 再读入若干块Student元组，读入一块SC元组； • 重复上述处理过程，直到把Student表处理完；

  46. 设一个块能装10个Student元组或100个SC元组，在内存中存放5块Student元组和1块SC元组，则读取总块数为：设一个块能装10个Student元组或100个SC元组，在内存中存放5块Student元组和1块SC元组，则读取总块数为： ＋ =100 + 20×100=2100块 • 若每秒读写20块，则总计要花105s ； • 连接后的元组数为103×104=107； • 设每块能装10个元组，则写出这些块要用106/20=5×104s；

  47. 2）计算选择时间 • 依次读入连接后的元组，按照选择条件选取满足要求的记录； • 假定内存处理时间忽略； • 读取中间文件花费的时间(同写中间文件一样)需5×104s； • 满足条件的元组假设仅50个，均可放在内存； 3）作投影操作 • 把第2步的结果在Sname上作投影输出，得到最终结果 ； • 所有内存处理时间均忽略不计； 第一种情况下执行查询的总时间≈105 + 2×5×104≈105s

  48. 2、第二种情况 • 分三个步骤： • 计算Student SC花费时间，即计算自然连接操作时间； • 计算σSc.Cno=‘2’花费时间，即计算选择操作时间； • 计算πSname花费时间，即计算投影操作时间；

  49. 1）计算自然连接时间 • 读取Student和SC表的策略不变，总的读取块数仍为2100块，花费105 s ； • 自然连接的结果比第一种情况大大减少，为104个 ； • 写出这些元组时间为103/20=50s，为第一种情况的千分之一； 2）计算选择操作时间 • 读取中间文件块，执行选择运算，花费时间也为50s； 3）计算选择操作时间：把第2步结果投影输出。 第二种情况下执行查询的总时间≈105+50+50≈205s

More Related