3.89-3.98=4.44089209850063E-16,该如何解决
日期：2014-05-18 浏览次数：20619 次
3.89-3.98=4.44089209850063E-16
在计算的时候 许多列相减..前5列算出结果是3.98 在减最后一列3.98 怎么得出 4.44089209850063E-16
------解决方案--------------------
给出具体的测试数据吧
------解决方案--------------------
用decimal做数据类型.
------解决方案--------------------
原因：因为你用的float 数据类型
解决方案：改成decimal
------解决方案--------------------
在计算的时候 许多列相减..前5列算出结果是3.98 在减最后一列3.98 怎么得出 4.44089209850063E-16
------解决方案--------------------
给出具体的测试数据吧
------解决方案--------------------
用decimal做数据类型.
------解决方案--------------------
原因：因为你用的float 数据类型
解决方案：改成decimal
------解决方案--------------------
免责声明： 本文仅代表作者个人观点，与爱易网无关。其原创性以及文中陈述文字和内容未经本站证实，对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺，请读者仅作参考，并请自行核实相关内容。
