日期:2014-05-16  浏览次数:20342 次

关于JavaScript中计算精度丢失的问题

转贴:http://rockyee.iteye.com/blog/891538

摘要:
由于计算机是用二进制来存储和处理数字,不能精确表示浮点数,而JavaScript中没有相应的封装类来处理浮点数运算,直接计算会导致运算精度丢失。
为了避免产生精度差异,把需要计算的数字升级(乘以10的n次幂)成计算机能够精确识别的整数,等计算完毕再降级(除以10的n次幂),这是大部分编程语言处理精度差异的通用方法。
关键词:
计算精度 四舍五入 四则运算 精度丢失
1. 疑惑
我们知道,几乎每种编程语言都提供了适合货币计算的类。例如C#提供了decimal,Java提供了BigDecimal,JavaScript提供了Number……
由于之前用decimal和BigDecimal用得很好,没有产生过精度问题,所以一直没有怀疑过JavaScript的Number类型,以为可以直接使用Number类型进行计算。但是直接使用是有问题的。
我们先看看四舍五入的如下代码:

Js代码 复制代码
  1. alert(Number(0.009).toFixed(2)); ??
  2. alert(Number(162.295).toFixed(2));??


按正常结果,应该分别弹出0.01和162.30。但实际测试结果却是在不同浏览器中得到的是不同的结果:
在ie6、7、8下得到0.00和162.30,第一个数截取不正确;
在firefox中得到0.01和162.29,第二个数截取不正确;
在opera下得到0.01和162.29,第二个数截取不正确
我们再来看看四则运算的代码:

Js代码 复制代码
  1. alert(1/3);//弹出:?0.3333333333333333 ??
  2. alert(0.1?+?0.2);//弹出:?0.30000000000000004? ??
  3. alert(-0.09?-?0.01);//弹出:?-0.09999999999999999 ??
  4. alert(0.012345?*?0.000001);//弹出:?1.2344999999999999e-8 ??
  5. alert(0.000001?/?0.0001);//弹出:?0.009999999999999998??


按正常结果,除第一行外(因为其本身就不能除尽),其他都应该要得到精确的结果,从弹出的结果我们却发现不是我们想要的正确结果。是因为没有转换成Number类型吗?我们转换成Number后再计算看看:

Js代码 复制代码
  1. alert(Number(1)/Number(3));//弹出:?0.3333333333333333????? ??
  2. alert(Number(0.1)?+?Number(0.2));//弹出:?0.30000000000000004???? ??
  3. alert(Number(-0.09)?–?Number(0.01));//弹出:?-0.09999999999999999??? ??
  4. alert(Number(0.012345)?*?Number(0.000001));//弹出:?1.2344999999999999e-8??? ??
  5. alert(Number(0.000001)?/?Number(0.0001));//弹出:?0.009999999999999998??


还是一样的结果,看来javascript默认把数字识别为number类型。为了验证这一点,我们用typeof弹出类型看看:

Js代码 复制代码
  1. alert(typeof(1));//弹出:?number ??
  2. alert(typeof(1/3));//弹出:?number ??
  3. alert(typeof(-0.09999999));//弹出:?number??


2. 原因
为什么会产生这种精度丢失的问题呢?是javascript语言的bug吗?
我们回忆一下大学时学过的计算机原理,计算机执行的是二进制算术,当十进制数不能准确转换为二进制数时,这种精度误差就在所难免。
再查查javascript的相关资料,我们知道javascript中的数字都是用浮点数表示的,并规定使用IEEE 754 标准的双精度浮点数表示:
IEEE 754 规定了两种基本浮点格式:单精度和双精度。
  IEEE单精度格式具有24 位有效数字精度(包含符号号),并总共占用32 位。
  IEEE双精度格式具有53 位有效数字精度(包含符号号),并总共占用64 位。
这种结构是一种科学表示法,用符号(正或负)、指数和尾数来表示,底数被确定为2,也就是说是把一个浮点数表示为尾数乘以2的指数次方再加上符号。下面来看一下具体的规格:

??????? 符号位 ??????? 指数位 ???????