ITPub博客

首页 > Linux操作系统 > Linux操作系统 > number(p,s)意义

number(p,s)意义

原创 Linux操作系统 作者:sanxiagirl 时间:2009-06-05 15:18:18 0 删除 编辑
  number(p,s)
  p:1~38
  s:-84~127

  p>0,对s分2种情况分析:
  1. s>0
  精确到小数点右边s位,并四舍五入。然后检验有效数位是否<=p;假如s>p,小数点右边至少有s-p个0填充。
  2. s<0
  精确到小数点左边s位,并四舍五入。然后检验有效数位是否<=p+s
  (有效数位:从左边第一个不为0的数算起)
 

 number                输入123.456   存储的是123.456
number(6,2)        输入123.456   存储的是123.46
                               输入123123.456   存储报错
number(6)           输入123.456   存储的是123
number(5,-2)      输入123.456   存储的是100
                              输入3.456   存储的是0
number(4,5)       输入123.456   存储报错
                             输入0.123   存储报错
                             输入0.0123   存储的是0.123
                             输入0.012345   存储的是0.01235

来自 “ ITPUB博客 ” ,链接:http://blog.itpub.net/10640532/viewspace-605261/,如需转载,请注明出处,否则将追究法律责任。

上一篇: insert引起的死锁
下一篇: 系统表sysindexes
请登录后发表评论 登录
全部评论

注册时间:2008-01-02

  • 博文量
    142
  • 访问量
    504422