关于JavaScript中计算精度丢失的有关问题
日期：2014-05-16 浏览次数：20336 次
转贴:http://rockyee.iteye.com/blog/891538
摘要：
由于计算机是用二进制来存储和处理数字，不能精确表示浮点数，而JavaScript中没有相应的封装类来处理浮点数运算，直接计算会导致运算精度丢失。
为了避免产生精度差异，把需要计算的数字升级（乘以10的n次幂）成计算机能够精确识别的整数，等计算完毕再降级（除以10的n次幂），这是大部分编程语言处理精度差异的通用方法。
关键词：
计算精度 四舍五入 四则运算 精度丢失
1. 疑惑
我们知道，几乎每种编程语言都提供了适合货币计算的类。例如C#提供了decimal，Java提供了BigDecimal，JavaScript提供了Number……
由于之前用decimal和BigDecimal用得很好，没有产生过精度问题，所以一直没有怀疑过JavaScript的Number类型，以为可以直接使用Number类型进行计算。但是直接使用是有问题的。
我们先看看四舍五入的如下代码：
- alert(Number(0.009).toFixed(2)); ??
- alert(Number(162.295).toFixed(2));??
按正常结果，应该分别弹出0.01和162.30。但实际测试结果却是在不同浏览器中得到的是不同的结果：
在ie6、7、8下得到0.00和162.30，第一个数截取不正确；
在firefox中得到0.01和162.29，第二个数截取不正确；
在opera下得到0.01和162.29，第二个数截取不正确
我们再来看看四则运算的代码：
- alert(1/3);//弹出:?0.3333333333333333 ??
- alert(0.1?+?0.2);//弹出:?0.30000000000000004? ??
- alert(-0.09?-?0.01);//弹出:?-0.09999999999999999 ??
- alert(0.012345?*?0.000001);//弹出:?1.2344999999999999e-8 ??
- alert(0.000001?/?0.0001);//弹出:?0.009999999999999998??
按正常结果，除第一行外(因为其本身就不能除尽)，其他都应该要得到精确的结果，从弹出的结果我们却发现不是我们想要的正确结果。是因为没有转换成Number类型吗？我们转换成Number后再计算看看：
- alert(Number(1)/Number(3));//弹出:?0.3333333333333333????? ??
- alert(Number(0.1)?+?Number(0.2));//弹出:?0.30000000000000004???? ??
- alert(Number(-0.09)?–?Number(0.01));//弹出:?-0.09999999999999999??? ??
- alert(Number(0.012345)?*?Number(0.000001));//弹出:?1.2344999999999999e-8??? ??
- alert(Number(0.000001)?/?Number(0.0001));//弹出:?0.009999999999999998??
还是一样的结果，看来javascript默认把数字识别为number类型。为了验证这一点，我们用typeof弹出类型看看：
- alert(typeof(1));//弹出:?number ??
- alert(typeof(1/3));//弹出:?number ??
- alert(typeof(-0.09999999));//弹出:?number??
2. 原因
为什么会产生这种精度丢失的问题呢？是javascript语言的bug吗？
我们回忆一下大学时学过的计算机原理，计算机执行的是二进制算术，当十进制数不能准确转换为二进制数时，这种精度误差就在所难免。
再查查javascript的相关资料，我们知道javascript中的数字都是用浮点数表示的，并规定使用IEEE 754 标准的双精度浮点数表示：
IEEE 754 规定了两种基本浮点格式：单精度和双精度。
IEEE单精度格式具有24 位有效数字精度(包含符号号)，并总共占用32 位。
IEEE双精度格式具有53 位有效数字精度(包含符号号)，并总共占用64 位。
这种结构是一种科学表示法，用符号（正或负）、指数和尾数来表示，底数被确定为2，也就是说是把一个浮点数表示为尾数乘以2的指数次方再加上符号。下面来看一下具体的规格:
| ??????? | 符号位 ??????? | 指数位 ??????? | 小
免责声明： 本文仅代表作者个人观点，与爱易网无关。其原创性以及文中陈述文字和内容未经本站证实，对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺，请读者仅作参考，并请自行核实相关内容。
|
