Sql server聚合函数在实际工作中应对各种需求使用的还是很广泛的,对于聚合函数的优化自然也就成为了一个重点,一个程序优化的好不好直接决定了这个程序的声明周期。Sql server聚合函数对一组值执行计算并返回单一的值。聚合函数对一组值执行计算,并返回单个值。除了 COUNT 以外,聚合函数都会忽略空值。 聚合函数经常与 SELECT 语句的 GROUP BY 子句一起使用。
v1.写在前面
如果有对Sql server聚合函数不熟或者忘记了的可以看我之前的一片博客。sql server 基础教程。
本文中所有数据演示都是用Microsoft官方示例数据库:Northwind,至于Northwind大家也可以在网上下载。至于下载方法MSDN已经有了详细的说明了,这里就不多说了。
v2.Sql server标量聚合
2.1.概念:
2.2.探索标量聚合:
我们先用Sql server的"包括实际的执行计划"来看看一个简单的流聚合COUNT()来看看表里数据所有的行数。
再通过SET SHOWPLAN_ALL ON(关于输出中包含的列更多信息可以在链接中查看)来看看有关语句执行情况的详细信息,并估计语句对资源的需求。
通过SET SHOWPLAN_ALL ON我们来看看COUNT()具体做了那些事情:
- 索引扫描:扫描当前表的行数
- 流计算:计算行数的数量
- 计算标量:将流计算出来的结果转化为适当的类型。(因为索引扫描出来的结果是根据表中数据的大小决定的,如果表中数据很多的话,COUNT是int类型就会有问题,所以在最终返回的时候需要将默认类型(数值一般默认类型是Big)转成int类型。)
- 小结:通过SET SHOWPLAN_ALL ON我们可以查看Sql server聚合函数在给我们呈现最终效果的时候,为这个效果做了些什么事情。
2.3.标量聚合优化技巧:
我们通过两个比较简单的sql查询来看看他们的区别
SELECT COUNT(DISTINCT ShipCity) FROM OrdersSELECT COUNT(DISTINCT OrderID) FROM Orders
从上图中可以看到,其实这两个查询从语句上来说没什么太大的区别,但是为什么开销会不一样,一个是查询城市一个是查询订单号。这是因为其实DISTINCT对于OrderID查询来说,是没有什么意义的,因为OrderID是主键,是不会有重复的。而ShipCity是会有重复的,Sql server的去重机制在去重的时候,会有一个排序的过程。这个排序还是比较消耗资源的。
对于数据量比较大的表其实不是很建议对大表排序或者对大表的某个重复次数多的字段去重运算。所以我们这里可以对ShipCity进行优化一下。可以对ShipCity创建一个非聚集索引。
CREATE INDEX Index_ShipCity On Orders(ShipCity desc)go
从上图中可以看到,加了索引以后COUNT(DISTINCT ShipCity)的查询变成了两个流聚合,而没有了排序,节省了开销。
总结:对于标量聚合从上面的例子大家可以看到,标量聚合优缺点很明显:
- Sql server标量聚合优点:算法比较简单直观,适合非重复值的聚合操作。
- Sql server标量聚合缺点:性能较差(需要排序),不适合重复值的聚合操作。
优化技巧:
- 尽量避免排序产生
- 将分组字(GROUP BY)段锁定在索引覆盖范围内
v3.Sql server哈希聚合
3.1.概念:
哈希(Hash,一般翻译做“散列”,也有直接音译为“哈希”的,就是把任意长度的输入(又叫做预映射, pre-image),通过散列算法,变换成固定长度的输出,该输出就是散列值。这种转换是一种压缩映射,也就是,散列值的空间通常远小于输入的空间,不同的输入可能会散列成相同的输出,所以不可能从散列值来唯一的确定输入值。简单的说就是一种将任意长度的消息压缩到某一固定长度的消息摘要的函数。)
哈希聚合的内部实现方法和哈希连接的实现机制一样,需要哈希函数的内部运算,形成不同的哈希值,依次并行扫描数据形成聚合值。
3.2.背景:
为了解决流聚合的不足,应对大数据的操作,所以哈希聚合就诞生了。
3.3.分析:
来看看两个简单的查询。
ShipCountry和CustomerID的分组查询看上去很类似,但是为什么执行计划会不同呢?这是因为ShipCountry包含了大量的重复值,CustomerID重复值非常少,所以Sql server系统给ShipCountry推送的哈希聚合,而CustomerID推送的是流聚合。也就是说Sql server系统会动态的根据查询的情况选择合适的聚合方式。所以我们在做SQL优化的时候不能仅根据SQL语句来优化,还得结合具体数据分布的环境。
v4.运算过程监控指标
4.1.监控元素:
- 可视化查看运行时间
- T-sql语句查询时间
- 占用内存
- T-sql语句查询IO
4.2.可视化查看运行时间:
4.3.T-sql语句查询时间:
4.4.占用内存:
4.5.T-sql语句查询IO:
关于监控元素还有很多,这里就列举几个。
v博客总结
SQL Server 聚合函数算法优化技巧差不多就介绍到这里,如果有对sql语句优化感兴趣的可以看这篇博客。sql server之数据库语句优化
作 者:请叫我头头哥
出 处:http://www.cnblogs.com/toutou/
关于作者:专注于微软平台的项目开发。如有问题或建议,请多多赐教!
版权声明:本文版权归作者和博客园共有,欢迎转载,但未经作者同意必须保留此段声明,且在文章页面明显位置给出原文链接。
特此声明:所有评论和私信都会在第一时间回复。也欢迎园子的大大们指正错误,共同进步。或者直接私信我
声援博主:如果您觉得文章对您有帮助,可以点击文章右下角【推荐】一下。您的鼓励是作者坚持原创和持续写作的最大动力!
- 11楼WhereTo
- 写的很好, 顶!
- 10楼自由体
- 卤煮排版很用心啊
- 9楼Pinged
- 推荐+收藏
- 8楼奈何桥下
- 引用我们在做SQL优化的时候不能仅根据SQL语句来优化,还得结合具体数据分布的环境,,+1
- 7楼子非鱼安知鱼之乐
- 底层知识, 赞!
- Re: 请叫我头头哥
- @子非鱼安知鱼之乐,@Pinged,@oz,@CCTV6,@高速公路,多谢。
- 6楼oz
- 好文章,支持头头哥
- 5楼高速公路
- 必须赞一个, 微软还是为开发者做了一些事情的,SET SHOWPLAN_ALL ON可以让我们更好的认识SQL
- 4楼CCTV6
- 学习了。 支持一个。
- 3楼清澈的大海
- 楼主请问 您用的是什么写博客的工具,谢谢
- Re: 请叫我头头哥
- @清澈的大海,visual studio 2015。 在VS里写好拷贝到博客园编辑器。
- 2楼不枉此生
- 只可惜sql server在性能上跟oracle还有很大的差距啊
- Re: 桦仔
- @不枉此生,引用只可惜sql server在性能上跟oracle还有很大的差距啊,如果对sqlserver用得熟练,其实没有差距的
- 1楼田野农夫
- 支持。