爱易网
IT新闻
IT新闻
爱易资讯
网站搭建
云虚拟主机教程
云服务器教程
Apache教程
IIS教程
Nginx教程
网站策划
站长文章
推广教程
淘宝客教程
网页设计
HTML教程
XHTML教程
CSS教程
HTML5教程
CSS3教程
JavaSript基础
JQuery教程
Node.js教程
前端技术
Ajax教程
Js特效
Xml教程
平面设计
页面UI设计
photoshop教程
程序开发
AI人工智能
Asp教程
Php教程
Asp.Net教程
Net Core教程
C#教程
Java教程
Jsp教程
开发技术
微信小程序教程
Uniapp开发教程
微信公众号开发
Andriod教程
IOS教程
DOS教程
Python教程
Docker教程
Windows Container教程
数据库
MSSQL教程
MySQL教程
Redis教程
Access教程
Oracle教程
数据库教程
操作系统
Linux教程
Windows教程
MAC教程
Cisco教程
交换机教程
防火墙教程
搜索
爱易网页
数据库教程
计算时精度导致的小错误
计算时精度导致的小错误
日期:2014-05-16 浏览次数:20406 次
计算时精度导致的小异常
今天发生了0.0037775进位为6位的时候,出现了3.377的怪现象。
总也查不出来原因无论怎么round都没用。给的还是3.377。
最后发现原来计算的结果精度很高,是0.0037774999999虽然显示的是0.0037775,进位的时候就会发生这种情况。
解决方法是先round 第7位,再round第六位
上一篇: CCNP_route札记6 关于OSPF中的hello和DBD顺序
下一篇: [转]oracle临时表有关知识
免责声明:
本文仅代表作者个人观点,与爱易网无关。其原创性以及文中陈述文字和内容未经本站证实,对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容。
相关资料
更多>
jdbc-批量安插数据
数据库热备容灾方案(下海某医院)
sql 功课备份数据库
Oracle delete 数据后的释放表空间有关问题
JBPM工作流引擎数据库表构造解析6
数据库操作技能
db2 隔绝级别-基础知识
(转) RockMongo查询操功用法总结
Oracle 性能调优学习札记(十二)- 统计管理B
推荐阅读
更多>
DB2时间函数取目前年的第一天
Oracle 10G R2 RAC 日常治理
oracle date 跟 timestamp区别(日期的相减)
oracle数据库的一些简略操作
关于DTS导入导出丧失默许值等对象
【解决有关问题】完成从Mysql到SQLite数据库的整体迁移
Oracle 11g 新特性 - Invisible Indexes(不看得出的索引) 说明
【11g 快照DataGuard的企业级应用】听课因特网址和key
oracle的口令资料
JdbcTemplate学习札记
数据库设计常见有关问题、基本惯用法及规范(总结)
用户之间imp的有关问题
目录的使用
全文本检索的应用(2)
Oracle中,何种情况上Sequence被限制使用
Spring jdbc 操作范例
从例证中说明oracle中关于索引的几点看法(转载)
spring学习范例之spring对jdbc的支持
oracle 多行结果聚合并成为一行
Oracle数据库分页(1)