ITPub博客

首页 > Linux操作系统 > Linux操作系统 > number(p,s)(转)

number(p,s)(转)

原创 Linux操作系统 作者:zhouwf0726 时间:2019-04-21 14:42:06 0 删除 编辑
number(p,s)
p:1~38
s:-84~127

p>0,对s分2种情况分析:

有效数位:从左边第一个不为0的数算起

1. s>0
精确到小数点右边s位,并四舍五入。然后检验有效数位是否<=p;如果s>p,小数点右边至少有s-p个0填充。

2. s<0
精确到小数点左边s位,并四舍五入。然后检验有效数位是否<=p+|s|

(有效数位:从左边第一个不为0的数算起)

Value

Datatype

Stored Value

123.2564

NUMBER

123.2564

1234.9876

NUMBER(6,2)

1234.99

12345.12345

NUMBER(6,2)

Error

1234.9876

NUMBER(6)

1235

12345.345

NUMBER(5,-2)

12300

1234567

NUMBER(5,-2)

1234600

12345678

NUMBER(5,-2)

Error

123456789

NUMBER(5,-4)

123460000

1234567890

NUMBER(5,-4)

Error

12345.58

NUMBER(*, 1)

12345.6

0.1

NUMBER(4,5)

Error

0.01234567

NUMBER(4,5)

0.01235

0.09999

NUMBER(4,5)

0.09999

0.099996

NUMBER(4,5)

Error


来自 “ ITPUB博客 ” ,链接:https://blog.itpub.net/756652/viewspace-242151/ ,如需转载,请注明出处,否则将追究法律责任。

下一篇: oracle case
请登录后发表评论 登录
全部评论

注册时间:2006-02-22

  • 博文量
    458
  • 访问量
    416608