日期:2014-05-18  浏览次数:20404 次

查询后小数精度怎么变了?
表字段numeric(19,6)类型允许6位小数,但我表中的数据最多只保留了2位小数,进行了一个复杂查询后精度变了,比如383.2001或125.8996,正确的数据应该是383.20和125.90,有的误差0.0001,有的误差0.0004,但查询中只用到了sum

整个查询大概有4~5个子查询,先把各个结果放在临时表中,最后用一个查询汇总。

问题:
1.这是不是正常的?该怎么处理使得结果准确。
2.目前如果四舍五入保留2位小数还是正确的,会不会有隐患使得结果四舍五入后变成383.21或125.89,这样的后果可就严重了。

------解决方案--------------------
对查询结果如col列.

select cast(col as decimal(18,2)) from tb
------解决方案--------------------
或用ROUND
返回数字表达式并四舍五入为指定的长度或精度。


语法
ROUND ( numeric_expression , length [ , function ] ) 

参数
numeric_expression

精确数字或近似数字数据类型类别的表达式(bit 数据类型除外)。

length

是 numeric_expression 将要四舍五入的精度。length 必须是 tinyint、smallint 或int。当 length 为正数时,numeric_expression 四舍五入为 length 所指定的小数位数。当 length 为负数时,numeric_expression 则按 length 所指定的在小数点的左边四舍五入。

function

是要执行的操作类型。function 必须是 tinyint、smallint 或 int。如果省略 function 或 function 的值为 0(默认),numeric_expression 将四舍五入。当指定 0 以外的值时,将截断 numeric_expression。

返回类型
返回与 numeric_expression 相同的类型。



------解决方案--------------------
问题的原因就是结构是6位,但是你的实际数据却要2位。一定会有误差的。因为在临时表中计算时,是按6位精度的。
所以这种情况,就要最后一步四舍五入。应该不会有误差的。
------解决方案--------------------
用convert\cast转换为decimal类型