1. 爱易网页
  2. 数据库教程
  3. 计算时精度导致的小错误

计算时精度导致的小错误

日期：2014-05-16　 浏览次数：20531 次

计算时精度导致的小异常
今天发生了0.0037775进位为6位的时候，出现了3.377的怪现象。
总也查不出来原因无论怎么round都没用。给的还是3.377。

最后发现原来计算的结果精度很高，是0.0037774999999虽然显示的是0.0037775，进位的时候就会发生这种情况。

解决方法是先round 第7位，再round第六位

相关资料更多>

  1. 定做仪表盘首页
  2. Redhat4.8AS上安装oracle 11g
  3. oracle中默许约束
  4. oracle学习札记12_Managing Tables
  5. JDBC学习（二）
  6. 归档程序异常。在释放之前仅限于内部连接
  7. 工作札记-“ids for this class must be manually assigned before calling save”解决方法
  8. Linux 上裸设备创建Oracle数据库
  9. Oracle数据库函数运用学习