mysql下float类型一些误差介绍
发布时间：2022-06-15 14:47:12 所属栏目：MySql教程 来源：互联网
导读：我想很多朋友都不怎么会在mysql中使用float类型，特别是用到金钱时我们可能会用双精度来做，我们知道mysql的float类型是单精度浮点类型不小心就会导致数据误差 1.float类型 float列类型默认长度查不到结果,必须指定精度,比如 num float, insert into table (
|
我想很多朋友都不怎么会在mysql中使用float类型，特别是用到金钱时我们可能会用双精度来做，我们知道mysql的float类型是单精度浮点类型不小心就会导致数据误差 1.float类型 float列类型默认长度查不到结果,必须指定精度,比如 num float, insert into table (num) values (0.12); select * from table where num=0.12的话，empty set,代码如下: num float(9,7), insert into table (num) values (0.12); select * from table where num=0.12的话会查到这条记录。 +------------+ | 123456.797 | +------------+ 1 row in set (0.00 sec) 注:小数位数不够,自动补齐,但是存在一个问题就是如上的近似值,代码如下: mysql> insert into tt(num)values(123456.867); Query OK, 1 row affected (0.04 sec) mysql> select * from tt; +------------+ | num | +------------+ | 123456.797 | | 123456.797 | | 123456.867 | +------------+ 3 rows in set (0.00 sec) mysql> select * from tt where num=123456.867; +------------+ | num | +------------+ | 123456.867 | +------------+ 1 row in set (0.00 sec) +-------+ 1 row in set (0.00 sec) mysql> insert into tt(num)values(2.888888); Query OK, 1 row affected (0.00 sec) --phpfensi.com mysql> select * from tt; +------------+ | num | +------------+ | 123456.797 | | 123456.797 | | 123456.867 | | 2.800 | | 2.889 | +------------+ 5 rows in set (0.00 sec) 注:小数位数超了,自动取近似值. 一、浮点数的概念及误差问题 浮点数是用来表示实数的一种方法,它用 M(尾数) * B( 基数)的E(指数）次方来表示实数,相对于定点数来说,在长度一定的情况下,具有表示数据范围大的特点,但同时也存在误差问题,这就是著名的浮点数精度问题,浮点数有多种实现方法,计算机中浮点数的实现大都遵从 IEEE754 标准，IEEE754 规定了单精度浮点数和双精度浮点数两种规格，单精度浮点数用4字节（32bit）表示浮点数,格式是:1位符号位 8位表示指数 23位表示尾数,双精度浮点数8字节（64bit）表示实数，格式是：1位符号位 11位表示指数 52位表示尾数 （编辑：云计算网_泰州站长网） 【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容! |
浙公网安备 33038102330476号