ITPub博客

首页 > Linux操作系统 > Linux操作系统 > Shell下浮点数表示问题

Shell下浮点数表示问题

原创 Linux操作系统 作者:is.x 时间:2011-04-28 12:55:28 0 删除 编辑

一、现象

 

$ echo "0.56" | awk '{printf "%d\n",$1*100}'    # 56 打印正确

$ echo "0.57" | awk '{printf "%d\n",$1*100}'    # 56 打印不正确

$ echo "0.58" | awk '{printf "%d\n",$1*100}'    # 57 打印不正确

$ echo "0.59" | awk '{printf "%d\n",$1*100}'    # 59 打印正确

 

二、原因

 

因为使用浮点数无法准确表示小数

 

#  echo "0.55" | awk '{printf "%2.20f\n",$1*100}'

55.00000000000000710543

#  echo "0.56" | awk '{printf "%2.20f\n",$1*100}'

56.00000000000000710543

#  echo "0.57" | awk '{printf "%2.20f\n",$1*100}'

56.99999999999999289457

#  echo "0.58" | awk '{printf "%2.20f\n",$1*100}'

57.99999999999999289457

#  echo "0.59" | awk '{printf "%2.20f\n",$1*100}'

59.00000000000000000000

 

三、解决方法

 

#  echo "0.56" | awk '{printf "%2.0f\n",$1*100}'

56

#  echo "0.57" | awk '{printf "%2.0f\n",$1*100}'

57

#  echo "0.58" | awk '{printf "%2.0f\n",$1*100}'

58

来自 “ ITPUB博客 ” ,链接:http://blog.itpub.net/20750200/viewspace-693989/,如需转载,请注明出处,否则将追究法律责任。

上一篇: 没有了~
请登录后发表评论 登录
全部评论

注册时间:2011-04-27

  • 博文量
    73
  • 访问量
    255457