干货|大数据量惯用优化方法

优化人员工作时免不了要接触到大数据量的问题，下面就将平时收集的一些关于大数据量的优化方法整理记录一下，也是和大家一起共享哦。

1. 应尽量避免在 where 子句中对字段进行 null值判断，否则将导致引擎放弃使用索引而进行全表扫描，如：select id from t where numis null可以在num上设置默认值0，确保表中num列没有null值，然后这样查询：select id from t where num=0

2. 应尽量避免在 where 子句中使用!=或<>操作符，否则将导致引擎放弃使用索引而进行全表扫描。优化器将无法通过索引来确定将要命中的行数,因此需要搜索该表的所有行。

3. 应尽量避免在 where 子句中使用 or来连接条件，否则将导致引擎放弃使用索引而进行全表扫描，如：select id from t where num=10or num=20可以这样查询：select id from t where num=10union allselect id from t where num=20

4. in和 not in也要慎用，因为in会使系统无法使用索引,而只能直接搜索表中的数据。如：select id from t where numin(1,2,3)对于连续的数值，能用 between就不要用 in了：select id from t where numbetween 1 and 3

5. 尽量避免在索引过的字符数据中，使用非打头字母搜索。这也使得引擎无法利用索引。 见如下例子：SELECT * FROM T1 WHERE NAME LIKE‘%L%’SELECT * FROM T1 WHERESUBSTING(NAME,2,1)=’L’SELECT * FROM T1 WHERE NAME LIKE‘L%’即使NAME字段建有索引，前两个查询依然无法利用索引完成加快操作，引擎不得不对全表所有数据逐条操作来完成任务。而第三个查询能够使用索引来加快操作。

6. 必要时强制查询优化器使用某个索引，如在 where 子句中使用参数，也会导致全表扫描。因为SQL只有在运行时才会解析局部变量，但优化程序不能将访问计划的选择推迟到运行时;它必须在编译时进行选择。然而，如果在编译时建立访问计划，变量的值还是未知的，因而无法作为索引选择的输入项。如下面语句将进行全表扫描：select id from t where可以改为强制查询使用索引：select id from t with(index(索引名)) where

7. 应尽量避免在 where 子句中对字段进行表达式操作，这将导致引擎放弃使用索引而进行全表扫描。如：SELECT* FROM T1 WHERE F1/2=100应改为:SELECT* FROM T1 WHERE F1=100*2SELECT *FROM RECORD WHERESUBSTRING(CARD_NO,1,4)=’5378’应改为:SELECT *FROM RECORD WHERE CARD_NO LIKE ‘5378%’SELECTmember_number,first_name,last_name FROM membersWHEREDATEDIFF(yy,datofbirth,GETDATE())> 21应改为:SELECTmember_number,first_name,last_name FROM membersWHEREdateofbirth即：任何对列的操作都将导致表扫描，它包括数据库函数、计算表达式等等，查询时要尽可能将操作移至等号右边。

8. 应尽量避免在where子句中对字段进行函数操作，这将导致引擎放弃使用索引而进行全表扫描。如：select id from t where substring(name,1,3)=’abc’—name以abc开头的idselect id from t wheredatediff(day,createdate,’2005-11-30′)=0–‘2005-11-30’生成的id应改为:select id from t where name like ‘abc%’select id from t where createdate>=’2005-11-30’and createdate<‘2005-12-1′

9. 在使用索引字段作为条件时，如果该索引是复合索引，那么必须使用到该索引中的第一个字段作为条件时才能保证系统使用该索引，否则该索引将不会被使用，并且应尽可能的让字段顺序与索引顺序相一致。

10. 很多时候用 exists是一个好的选择：selectnum from a where num in(selectnum from b)用下面的语句替换：selectnum from a where exists(select 1 from b where num=a.num)SELECTSUM(T1.C1)FROM T1 WHERE((SELECTCOUNT(*)FROM T2 WHERE T2.C2=T1.C2>0)SELECTSUM(T1.C1) FROM T1WHERE EXISTS(SELECT *FROM T2 WHERE T2.C2=T1.C2)两者产生相同的结果，但是后者的效率显然要高于前者。因为后者不会产生大量锁定的表扫描或是索引扫描。如果你想校验表里是否存在某条纪录，不要用count(*)那样效率很低，而且浪费服务器资源。可以用EXISTS代替。如：IF (SELECTCOUNT(*)FROMtable_name WHEREcolumn_name= ‘xxx’)可以写成：IF EXISTS (SELECT * FROMtable_name WHEREcolumn_name =’xxx’)经常需要写一个T_SQL语句比较一个父结果集和子结果集，从而找到是否存在在父结果集中有而在子结果集中没有的记录，如：SELECTa.hdr_key FROMhdr_tbl a—-tbla表示tbl用别名a代替WHERENOT EXISTS (SELECT * FROMdtl_tbl b WHEREa.hdr_key =b.hdr_key)SELECTa.hdr_key FROMhdr_tblaLEFTJOINdtl_tbl b ONa.hdr_key=b.hdr_key WHEREb.hdr_keyIS NULLSELECThdr_key FROMhdr_tblWHEREhdr_key NOT IN (SELECThdr_keyFROMdtl_tbl)三种写法都可以得到同样正确的结果，但是效率依次降低。

11. 避免频繁创建和删除临时表，以减少系统表资源的消耗。

12. 临时表并不是不可使用，适当地使用它们可以使某些例程更有效，例如，当需要重复引用大型表或常用表中的某个数据集时。但是，对于一次性事件，最好使用导出表。

13. 在新建临时表时，如果一次性插入数据量很大，那么可以使用 select into 代替 create table，避免造成大量 log ，以提高速度;如果数据量不大，为了缓和系统表的资源，应先create table，然后insert。

14. 如果使用到了临时表，在存储过程的最后务必将所有的临时表显式删除，先 truncate table ，然后 drop table，这样可以避免系统表的较长时间锁定。

15. 在所有的存储过程和触发器的开始处设置 SET NOCOUNT ON ，在结束时设置 SET NOCOUNT OFF。无需在执行存储过程和触发器的每个语句后向客户端发送 DONE_IN_PROC消息。

16. 尽量避免大事务操作，提高系统并发能力。

17. 尽量避免向客户端返回大数据量，若数据量过大，应该考虑相应需求是否合理，比如是否返回全对象，可不可以减少某些非必要字段。

18.避免使用不兼容的数据类型。例如float和int、char和varchar、binary和varbinary是不兼容的。数据类型的不兼容可能使优化器无法执行一些本来可以进行的优化操作。例如:SELECT name FROM employee WHERE salary >60000在这条语句中,如salary字段是money型的,则优化器很难对其进行优化,因为60000是个整型数。我们应当在编程时将整型转化成为钱币型,而不要等到运行时转化。

19. 充分利用连接条件，在某种情况下，两个表之间可能不只一个的连接条件，这时在 WHERE 子句中将连接条件完整的写上，有可能大大提高查询速度。 例：SELECTSUM(A.AMOUNT) FROM ACCOUNT A, CARD B WHERE A.CARD_NO =B.CARD_NOSELECTSUM(A.AMOUNT) FROM ACCOUNT A,CARD B WHERE A.CARD_NO =B.CARD_NO AND A.ACCOUNT_NO=B.ACCOUNT_NO第二句将比第一句执行快得多。

20. 使用视图加速查询 把表的一个子集进行排序并创建视图，有时能加速查询。它有助于避免多重排序操作，而且在其他方面还能简化优化器的工作。

21. 能用DISTINCT的就不用GROUP BYSELECTOrderIDFROM Details WHEREUnitPrice > 10 GROUP BYOrderID可改为：SELECT DISTINCTOrderIDFROM Details WHEREUnitPrice > 10

22. 能用UNION ALL就不要用UNION UNIONALL不执行SELECT DISTINCT函数，这样就会减少很多不必要的资源

23. 尽量不要用SELECT INTO语句。 SELECT INOT语句会导致表锁定，阻止其他用户访问该表。

随着社会的发展，信息技术的不断成熟，越来越多的信息都想保存起来，还想加以分析，所以要求插入、查询的数据量也越来越大，以前可能是几百条、几千条数据的操作，现在几万、甚至几十万条数据的查询也是很常见的操作了，所以大数据量的优化工作还需要我们深入的研究。

★每日一题（答案次日公布）

昨日Q58 答案：D

Q59. 如果允许一条记录触发多条分类规则，把每条被触发规则的后件看作是对相应类的一次投票，然后计票确定测试记录的类标号，称为（ ）A, 无序规则B，穷举规则C， 互斥规则D，有序规则

_____________________________________

PPV课其他精彩文章：

1、回复“干货”查看干货 数据分析师完整知识结构

2、回复“答案”查看大数据Hadoop面试笔试题及答案

3、回复“设计”查看这是我见过最逆天的设计，令人惊叹叫绝

4、回复“可视化”查看数据可视化专题-数据可视化案例与工具

5、回复“禅师”查看当禅师遇到一位理科生，后来禅师疯了！！知识无极限

6、回复“啤酒”查看数据挖掘关联注明案例-啤酒喝尿布

7、回复“栋察”查看大数据栋察——大数据时代的历史机遇连载

8、回复“数据咖”查看数据咖——PPV课数据爱好者俱乐部省分会会长招募

9、回复“每日一课”查看【每日一课】手机在线视频集锦

原文始发于微信公众号（PPV课数据科学社区）：干货|大数据量惯用优化方法