ITPub博客

首页 > 数据库 > 国内数据库 > 「分布式技术专题」常用的SQL算子介绍

「分布式技术专题」常用的SQL算子介绍

原创 国内数据库 作者:天云数据 时间:2021-02-05 15:13:51 0 删除 编辑

SQL查询的执行过程,就像工厂的加工流水线,层层递进,最终得到想要的结果,而SQL算子就好比其中的一道道工序。

本篇简要介绍一下SQL执行计划中,一些常见算子的含义和逻辑。

• indexscan 索引扫描

当数据表中创建了索引,并使用索引字段进行查询时,会进行索引扫描。

• tablescan 顺序表扫描

tablescan 负责从磁盘中以连续块的形式从磁盘中读取数据页。

一般在SQL查询中,有几张表就要有几个 tablescan 操作。在分布式数据库中,同一张表的扫描,还会被分配到多个结点使用分布式的方式执行。

• project 投影

投影操作,是从表中根据查询字段选择相关的列。

select cc_name, cc_class
  from call_center
 where cc_class = 'large' 
 limit 10;

在这个查询中,tablescan 操作会将 call_center 表的数据做全字段读取,project 操作负责筛选出 cc_name, cc_class 这两个列。

• filter 过滤

filter 会根据 where 条件中的筛选条件,筛选出符合的记录。其中过滤条件也叫谓词逻辑。

在两表连接时,谓词逻辑可以在 join 前执行,也可以在 join 后执行。因为 join 操作是做笛卡尔积,如果在 join 后执行谓词逻辑,将大大增加计算的基数,所以一般的数据库优化执行器都会将谓词下推,让谓词逻辑在join操作前完成。

上述的 project 和 filter 算子可以在数据表的列和行两个维度对数据进行限定,大大缩小处理的数据量,降低资源消耗,是SQL优化时常用的方法。

• exchange

在分布式数据库中,tablescan 等操作是分布式进行的,而各个分支结点将结果汇总的过程就是 exchange 操作。

exchange 操作还可以细分为 LocalExchange 和 RemoteExchange。

LocalExchange 即本地数据结果汇总,没有网络IO;而RemoteExchange是数据从不同的数据结点汇总到某一结点,需要网络传输。

• join 连接

连接的本质是两个表做笛卡尔积操作。

select ctr_total_return
  from customer_total_return_t1 ctr1
 where ctr1.ctr_total_return >
       (select avg(ctr_total_return)
          from customer_total_return_t2 ctr2
         where ctr1.ctr_store_sk = ctr2.ctr_store_sk);

在这个SQl中,先会对表 customer_total_return_t2 进行读取,并以 ctr_store_sk 为 key ,统计 avg(ctr_total_return) 然后 customer_total_return_t1 和 customer_total_return_t2 会做笛卡尔积,再进行条件过滤。

• aggregation 聚合

对数据做分组聚合,统计分析。

一般会先在每个结点先做一次分组统计,exchange 数据汇合之后再做一次合并统计。

select avg(ctr_total_return)
  from customer_total_return_test
 where ctr_store_sk = 10;

上面这个查询中只有一张表,由于是分布式执行,表虽然只扫描一次,但是会在多个数据结点进行扫描,所以 avg 函数会在每个结点先执行一次,exchange 汇总完后,会再进行一次avg操作。

• values

select 1 + 1, DATE '2001-08-22', ARRAY[1, 2, 3] ;

有时SQL中数据不是从表中查询出来的,而是给定的一个数字、字符或数组,这时 values 操作会将这些标识符转化成具体的数值。

• scalar 标量

根据策略,给定一个结果值。

一般会先在每个结点先做一次分组统计,exchange 数据汇合之后再做一次合并统计。

select 
    case when (select count(*)
               from store_sales
               where ss_quantity between 81 and 100) > 18213
         then 1
         else 2 end bucket5
from reason
where r_reason_sk = 1;

如case when 中根据判断条件计算结果时会使用。

• markDistinct

select avg(ss_sales_price) B1_LP, 
       count(distinct ss_list_price) B1_CNTD
  from store_sales;

distinct操作时,对数据的类别进行标识。

• window 窗口

窗口函数是应用于窗口和分区的函数,可分为三类:排名函数,分析函数和聚合函数。

select cs_call_center_sk,
       sum(cs_ext_sales_price) over(partition by cs_sold_date_sk) as revenueratio
  from catalog_sales limit 100;

窗口函数计算时,会根据 partition by 后的字段进行分区,然后进行统计分析或排名。

• sort 排序

select ss.ca_county, ss.d_year
  from ss, sc
 where ss.ca_county = sc.ca_county
 order by ss.d_year;

排序操作。

• topn

即 limit 操作,获取限定的记录条数。

• output

向客户端输出结果。


以上为常用的SQL算子介绍,「分布式技术专题」是国产数据库hubble团队精心整编,专题会持续更新,欢迎大家保持关注。


来自 “ ITPUB博客 ” ,链接:https://blog.itpub.net/69982626/viewspace-2756343/ ,如需转载,请注明出处,否则将追究法律责任。

请登录后发表评论 登录
全部评论
天云数据,一家大数据及人工智能基础软件提供商。

注册时间:2020-08-26

  • 博文量
    34
  • 访问量
    35958