两个相同的双精度小数相减不等于0

yangyaodell 2020-06-16 11:09:42

两具cdbl类型的7.6相减,等于

7.6-7.6=2.66453525910038E-15

这个怎么处理?

...全文

5609 3 打赏收藏转发到动态举报

写回复

3 条回复

切换为时间正序

请发表友善的回复…

发表回复

化境者 2020-06-21

打赏
举报

回复

不太可能会出现这个问题，你用两个变量装一下再减试试

hookee 2020-06-20

打赏
举报

回复

先要确定保留几位小数

三楼の郎 2020-06-18

打赏
举报

回复

round函数做四舍五入

Delphi 计算两个日期之间的时间差（天数），面向Delphi初学者的源码，Delphi7源码下载。

易语言支持库-计算类命令详细讲解.doc

主要介绍了javascript解决小数的加减乘除精度丢失的方案的相关资料以及JavaScript中关于丢失数字精度的问题的探讨，非常的详细,需要的朋友可以参考下

今天小编就为大家分享一篇关于易语言相减命令使用讲解，小编觉得内容挺不错的，现在分享给大家，具有很好的参考价值，需要的朋友一起跟随小编来看看吧

计算机组成原理复习提要加例题PPT学习教案.pptx

28,406

社区成员

356,946

社区内容

发帖

与我相关

我的任务

社区管理员

加入社区

近7日
近30日
至今

加载中

查看更多榜单

社区公告

暂无公告

试试用AI创作助手写篇文章吧

+ 用AI写文章