网站首页 > 技术文章 正文
一、 问题背景与适用场景
什么是后半有序?如果数据集T已经按字段a、b有序,现在我们要将T按b排序或分组时,因为在a值相同的段内,b都是有序的,这种要排序或分组的字段在分段内有序的情况就称为后半有序。
我们知道,快速排序算法的原理就是一种递归的分段排序再归并的算法,对于后半有序这样的已经大体有序的数组,快速排序的速度已经能够很快。所以如果采用快速排序算法对T按b排序后,就可以使用《性能优化技巧:有序分组》中介绍的优化原理进行分组了。
SPL提供了后半有序分组方法,我们实例测试一下,并且与SPL和Oracle的hash分组算法作对比。
二、 测试环境与任务
测试机有两个Intel2670 CPU,主频2.6G,共16核,内存64G,SSD固态硬盘。在此机上安装虚拟机来测试,设置虚拟机为16核、8G内存。
在虚拟机上创建数据表sales,共四个字段:orderdate、area(字符串)、salesman(字符串)、amount(实数),生成数据记录10亿行。将此表数据导入Oracle数据库,同时用它生成集算器SPL组表来进行测试。
数据按orderdate、area、salesman字段升序排列,要求查询出各地区各销售人员的销售总额,也就是按area、salesman进行分组,结果集总共有100万组。由于Oracle输出这么多行结果需要很长的时间,所以对分组结果再进行一次过滤,只输出销售总额小于471000元的订单,结果只有11条,输出就不占时间了。
三、 测试
1. Oracle测试
编写查询测试SQL如下:
select * from (
select /*+ parallel(n) */
area, salesman, sum(amount) as amount
from sales
group by area, salesman
) where amount<471000;
其中/*+ parallel(n) */ 用于并行测试,n为并行数。
2. SPL后半有序分组
编写SPL脚本如下:
groups分组时加选项@h就表示分组字段是后半有序(分段有序)的,让SPL先用快速排序算法对分组字段排序,之后再采用有序分组来优化。
需要说明的是,后半有序分组都是在内存中完成的,要求内存中能装下分组后的结果集,多路并行时要求内存能同时放下n个结果集(n为并行路数)。
3. SPL HASH分组
前述SPL脚本中去掉groups的选项@h,就是采用HASH分组了。
4. 测试结果
测试结果如下,单位(秒):
从测试结果看,SPL后半有序分组的运行时间比使用HASH分组的SPL和Oracle都要快不少,效率提高50%以上,性能提升比较明显。Java写的SPL常规分组比C语言写的Oracle略慢也是正常现象(测试中使用了所有列,SPL的列存优势没有效果)。
猜你喜欢
- 2024-11-16 apache druid 查询方式有哪几种?(druid查看慢sql)
- 2024-11-16 读SQL学习指南(第3版)笔记07_分组和子查询
- 2024-11-16 Oracle检索数据——分组查询和排序查询
你 发表评论:
欢迎- 07-10Oracle 与 Google Cloud 携手大幅扩展多云服务
- 07-10分享收藏的 oracle 11.2.0.4各平台的下载地址
- 07-10Oracle 和 Microsoft 推出 Oracle Exadata 数据库服务
- 07-10Oracle Database@Azure 推进到南美等新区域并增加了新服务
- 07-10Oracle宣布推出 Oracle Database@AWS 的有限预览版
- 07-10Oracle与Nextcloud合作,推出主权云上的安全协作平台
- 07-10NodeRED魔改版连接MsSql、PostgreSQL、MySQL、OracleDB存储无忧
- 07-10对于企业数据云备份,“多备份”承诺的是成本更低,管理更高效#36氪开放日深圳站#
- 605℃几个Oracle空值处理函数 oracle处理null值的函数
- 597℃Oracle分析函数之Lag和Lead()使用
- 585℃0497-如何将Kerberos的CDH6.1从Oracle JDK 1.8迁移至OpenJDK 1.8
- 581℃Oracle数据库的单、多行函数 oracle执行多个sql语句
- 577℃Oracle 12c PDB迁移(一) oracle迁移到oceanbase
- 570℃【数据统计分析】详解Oracle分组函数之CUBE
- 557℃最佳实践 | 提效 47 倍,制造业生产 Oracle 迁移替换
- 550℃Oracle有哪些常见的函数? oracle中常用的函数
- 最近发表
-
- Oracle 与 Google Cloud 携手大幅扩展多云服务
- 分享收藏的 oracle 11.2.0.4各平台的下载地址
- Oracle 和 Microsoft 推出 Oracle Exadata 数据库服务
- Oracle Database@Azure 推进到南美等新区域并增加了新服务
- Oracle宣布推出 Oracle Database@AWS 的有限预览版
- Oracle与Nextcloud合作,推出主权云上的安全协作平台
- NodeRED魔改版连接MsSql、PostgreSQL、MySQL、OracleDB存储无忧
- 对于企业数据云备份,“多备份”承诺的是成本更低,管理更高效#36氪开放日深圳站#
- 解读丨《归档文件整理规则》— 电子文件元数据存储
- Data Guard跳归档恢复的实践(dataguard failover)
- 标签列表
-
- 前端设计模式 (75)
- 前端性能优化 (51)
- 前端模板 (66)
- 前端跨域 (52)
- 前端缓存 (63)
- 前端aes加密 (58)
- 前端脚手架 (56)
- 前端md5加密 (54)
- 前端路由 (61)
- 前端数组 (73)
- 前端js面试题 (50)
- 前端定时器 (59)
- 前端获取当前时间 (50)
- Oracle RAC (76)
- oracle恢复 (77)
- oracle 删除表 (52)
- oracle 用户名 (80)
- oracle 工具 (55)
- oracle 内存 (55)
- oracle 导出表 (62)
- oracle约束 (54)
- oracle 中文 (51)
- oracle链接 (54)
- oracle的函数 (57)
- 前端调试 (52)
本文暂时没有评论,来添加一个吧(●'◡'●)