计算时精度导致的小错误
日期：2014-05-16 浏览次数：20665 次
计算时精度导致的小异常
今天发生了0.0037775进位为6位的时候，出现了3.377的怪现象。
总也查不出来原因无论怎么round都没用。给的还是3.377。
最后发现原来计算的结果精度很高，是0.0037774999999虽然显示的是0.0037775，进位的时候就会发生这种情况。
解决方法是先round 第7位，再round第六位
今天发生了0.0037775进位为6位的时候，出现了3.377的怪现象。
总也查不出来原因无论怎么round都没用。给的还是3.377。
最后发现原来计算的结果精度很高，是0.0037774999999虽然显示的是0.0037775，进位的时候就会发生这种情况。
解决方法是先round 第7位，再round第六位
免责声明： 本文仅代表作者个人观点，与爱易网无关。其原创性以及文中陈述文字和内容未经本站证实，对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺，请读者仅作参考，并请自行核实相关内容。
