ITPub博客

首页 > Linux操作系统 > Linux操作系统 > 【NUMBER】有关Oracle NUMBER类型定义中precision和scale的测试和总结

【NUMBER】有关Oracle NUMBER类型定义中precision和scale的测试和总结

原创 Linux操作系统 作者:secooler 时间:2010-09-11 22:47:28 0 删除 编辑
NUMBER数据类型的定义格式是:NUMBER(p,s)。本文对定义中的p(precision)和s(scale)做一个解释和总结。

1.官方文档中有关NUMBER数据类型的描述
p is the precision, or the total number of significant decimal digits, where the most significant digit is the left-most nonzero digit, and the least significant digit is the right-most known digit. Oracle guarantees the portability of numbers with precision of up to 20 base-100 digits, which is equivalent to 39 or 40 decimal digits depending on the position of the decimal point.

s is the scale, or the number of digits from the decimal point to the least significant digit. The scale can range from -84 to 127.

2.关于NUMBER数据类型的测试
create table test ( a number(1,3));

insert into test values(0.12);
                        *
第 1 行出现错误:
ORA-01438: 值大于此列指定的允许精度


insert into test values(0.012);

已创建 1 行。

insert into test values(0.0125);

已创建 1 行。

select * from test;

         A
----------
      .012
      .013

3.小结
1)整数部分长度>p-s时,报错;
2)小数部分长度>s时,舍入;
3)s为负数时,对小数点左边的s数字进行舍入;
4)当s>p时,p表示小数后第s位向左最多可以有多少位数字,如果大于p则报错,小数点后s位向右的数字被舍入.

Good luck.

secooler
10.09.11

-- The End --

来自 “ ITPUB博客 ” ,链接:http://blog.itpub.net/519536/viewspace-557312/,如需转载,请注明出处,否则将追究法律责任。

请登录后发表评论 登录
全部评论
Oracle ACE 总监,阿里云MVP,北京大学理学硕士,恩墨学院创始人,教育专家,中国区 Cloudera 首位官方授权大数据讲师,金牌培训专家,BDA大数据联盟创始人,OCM联盟创始人,ACCUG创始人、ACOUG核心专家,Blogger。

注册时间:2008-03-16

  • 博文量
    797
  • 访问量
    8059270