ITPub博客

首页 > 数据库 > PostgreSQL > PostgreSQL DBA(98) - PG 12 Faster float conversion to text

PostgreSQL DBA(98) - PG 12 Faster float conversion to text

翻译 PostgreSQL 作者:husthxd 时间:2019-09-26 14:16:21 0 删除 编辑

PostgreSQL 12之前的版本浮点数是通过四舍五入到特定的数字来输出的,由参数extra_float_digits控制。这种方法对于查询有实数列或双精度列的大表时的输出速度较慢。在PG12中,十进制表示输出是作为精确的原始二进制值重新输入的最短输出。

PG 11

testdb=# SET extra_float_digits = 3;
SET
Time: 1.141 ms
testdb=#  select 0.03::float;
        float8         
-----------------------
 0.0299999999999999989
(1 row)
Time: 3.116 ms
testdb=#

计算除不尽的小数,输出也不同

testdb=# select 1/3::float;
       ?column?       
----------------------
 0.333333333333333315
(1 row)
Time: 2.022 ms
testdb=#

PG 12
select 0.03::float;

[local]:5432 pg12@testdb=# SET extra_float_digits = 3;
SET
Time: 0.646 ms
[local]:5432 pg12@testdb=# select 0.03::float;
 float8 
--------
   0.03
(1 row)
Time: 0.611 ms
[local]:5432 pg12@testdb=#

select 1/3::float;

[local]:5432 pg12@testdb=# select 1/3::float;
      ?column?      
--------------------
 0.3333333333333333
(1 row)
Time: 1.986 ms
[local]:5432 pg12@testdb=#

参考文档
PostgreSQL 12: A Few Special-Case Performance Enhancements

来自 “ ITPUB博客 ” ,链接:http://blog.itpub.net/6906/viewspace-2658331/,如需转载,请注明出处,否则将追究法律责任。

请登录后发表评论 登录
全部评论
ITPUB数据库版块资深版主,对Oracle、PostgreSQL有深入研究。

注册时间:2007-12-28

  • 博文量
    1423
  • 访问量
    3859864