ITPub博客

首页 > 数据库 > MySQL > MySQL 有意思的浮点数和定点数

MySQL 有意思的浮点数和定点数

原创 MySQL 作者:甲骨文技术支持 时间:2017-03-10 19:58:44 0 删除 编辑

单精度的浮点数会产生误差,在对精度要求比较高的应用中要使用定点数保存数据,定点数实际上是以字符串形式存放的。

  1. mysql> create table test (c1 float(10,2),c2 double(10,2),c3 decimal(10,2));
  2. Query OK, 0 rows affected (0.17 sec)

  3. mysql> insert into test values(851028.52,851028.52,851028.52);
  4. Query OK, 1 row affected (0.02 sec)

  5. mysql> insert into test values(851028.42,851028.52,851028.52);
  6. Query OK, 1 row affected (0.03 sec)

  7. mysql> select * from test;
  8. +-----------+-----------+-----------+
  9. | c1 | c2 | c3 |
  10. +-----------+-----------+-----------+
  11. | 851028.50 | 851028.52 | 851028.52 |
  12. | 851028.44 | 851028.52 | 851028.52 |
  13. +-----------+-----------+-----------+
  14. 2 rows in set (0.00 sec)



来自 “ ITPUB博客 ” ,链接:https://blog.itpub.net/20893244/viewspace-2135130/ ,如需转载,请注明出处,否则将追究法律责任。

请登录后发表评论 登录
全部评论
2009年获得Oracle OCM认证,ITPUB社区OCM联盟成员,熟悉Oracle,mysql,Python,Zabbix等。

注册时间:2016-12-31

  • 博文量
    143
  • 访问量
    570493