日期:2014-05-20  浏览次数:20643 次

精度问题
String   sTerms= "118 ";
String   sRate= "5.1 ";
String   sBillSum= "345500 "

sEndorseTimes= "3 ";
sActualint   = " "


sActualint   =   Terms*sRate*sBillSum/30000+sEndorseTimes*sRate*sBillSum/30000;

为什么sActualint最后结果是7086.36499999
我想得到的是7086.37

------解决方案--------------------
昏倒,字符串变量做运算???
------解决方案--------------------
在某些对数值精度要求非常的应用中直接使用java的float中的*,/运算可能会丢失精度,造成小量的误差,但是如果将这些误差相加可能会放大。

如System.out.println(534.2 / 100);
执行的结果却是5.3420000000000005
System.out.println(4.015 * 100);执行的结果是401.49999999999994
都有误差。

解决方案使用BigDecimal,如:
System.out.println((new BigDecimal( "123.3 ")).divide(new BigDecimal( "100 ")));
System.out.println((new BigDecimal( "4.015 ")).multiply(new BigDecimal( "100 ")));

但是如果依然使用:
System.out.println((new BigDecimal(123.3)).divide(new BigDecimal(100)));
System.out.println((new BigDecimal(4.015)).multiply(new BigDecimal(100)));

原因是因为在内存中存储浮点数的方式和整型不一样,将浮点数传入函数时就已经有差距了,所以需要传入字符串。
如果是数据库中存储的浮点型数据,则需要使用ResultSet.getBigDecimal得到BigDecimal再进行运算
------解决方案--------------------
这是长精度,不是短精度。