爱易网
IT新闻
IT新闻
爱易资讯
网站搭建
云虚拟主机教程
云服务器教程
Apache教程
IIS教程
Nginx教程
网站策划
站长文章
推广教程
淘宝客教程
网页设计
HTML教程
XHTML教程
CSS教程
HTML5教程
CSS3教程
JavaSript基础
JQuery教程
Node.js教程
前端技术
Ajax教程
Js特效
Xml教程
平面设计
页面UI设计
photoshop教程
程序开发
AI人工智能
Asp教程
Php教程
Asp.Net教程
Net Core教程
C#教程
Java教程
Jsp教程
开发技术
微信小程序教程
Uniapp开发教程
微信公众号开发
Andriod教程
IOS教程
DOS教程
Python教程
Docker教程
Windows Container教程
数据库
MSSQL教程
MySQL教程
Redis教程
Access教程
Oracle教程
数据库教程
操作系统
Linux教程
Windows教程
MAC教程
Cisco教程
交换机教程
防火墙教程
搜索
爱易网页
数据库教程
计算时精度导致的小错误
计算时精度导致的小错误
日期:2014-05-16 浏览次数:20411 次
计算时精度导致的小异常
今天发生了0.0037775进位为6位的时候,出现了3.377的怪现象。
总也查不出来原因无论怎么round都没用。给的还是3.377。
最后发现原来计算的结果精度很高,是0.0037774999999虽然显示的是0.0037775,进位的时候就会发生这种情况。
解决方法是先round 第7位,再round第六位
上一篇: CCNP_route札记6 关于OSPF中的hello和DBD顺序
下一篇: [转]oracle临时表有关知识
免责声明:
本文仅代表作者个人观点,与爱易网无关。其原创性以及文中陈述文字和内容未经本站证实,对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容。
相关资料
更多>
MySql 5 数据库连接超时有关问题
数据库Sharding的基本思想跟切分策略 需要注意的几个方面
rman入门实际!
mongodb 搜寻结果保存到文件中
jdbc:java联接mysql数据库示例
“exists”和“in”的效率有关问题
COMMIT跟数据一致性
sybase 运作和链接到数据库
在业务系统中处理小数精度, 四舍五入,全舍弃,全进位的方法
推荐阅读
更多>
珍藏一个关于数据库的博客网址:http://www.hellodb.net/
(转)数据库事物、隔离级次及数据库锁机制
Oracle 中关于 sequence 对象的施用限制
oralce突然连接不下,没有报错
GROW THAT DBA CAREER
mySql数据库字段的部类(不全)
JDBC获取 SQL查询话语返回记录数 的三种方式效率比较
JavaEE项目JDBC联接MySql数据库提示ClassNotFoundException的解决方案
Hibernate+Spring多数据库解决方案(1)
linux上mysql数据库乱码有关问题解决方案
win7 上安装oracle
函数-merge
Ubuntu adb devices : no permissions 解决办法
oracle10g齐集函数,单列多行合并
目录优缺点
一个表作为多表利用的查询话语
Oracle 10g ORA-12154: TNS: could not resolve the connect identifier specified 有关问题
在win7 64位上装配oracle10g
unix下远程访问oracle
知晓数据库系列之入门——基础篇1