两个相同的双精度小数相减不等于0

yangyaodell 2020-06-16 11:09:42

两具cdbl类型的7.6相减,等于

7.6-7.6=2.66453525910038E-15

这个怎么处理?

...全文

5642 3 打赏收藏转发到动态举报

写回复

3 条回复

切换为时间正序

请发表友善的回复…

发表回复

化境者 2020-06-21

打赏
举报

回复

不太可能会出现这个问题，你用两个变量装一下再减试试

hookee 2020-06-20

打赏
举报

回复

先要确定保留几位小数

三楼の郎 2020-06-18

打赏
举报

回复

round函数做四舍五入

解析JavaScript中0.1+0.2不等于0.3的原因，深入探讨浮点数运算精度丢失问题及解决策略。

本文详细解析了浮点数在二进制表示中的精度问题，例如1.1+0.1不等于1.2，原因是二进制无法精确表示某些十进制小数。在Java、C++、Objective-C等语言中，这个问题普遍存在。文章通过实例展示了二进制转换、舍入规则、加法运算和结果转换的过程，并探讨了不同语言间的差异。此外，还讨论了JavaScript中的精度丢失问题，提出通过字符串操作避免浮点数计算的解决方案。

文章讨论了在编程中不能直接使用等号判断两个浮点数（如double或float）是否相等的原因，这源于二进制表示下浮点数的不精确性。解释了浮点数的二进制表示形式，以及IEEE754标准。提出了Java中比较浮点数相等的几种方法，包括转换为字符串、使用`Double.doubleToLongBits()`方法和使用`BigDecimal`。还提到了误差范围内比较的策略，结合绝对误差和相对误差来判断浮点数的近似相等。

本文介绍Python中除整数外的数字类型。浮点数定义简单，带小数点即可，但内存表示不精确。分数需引用fractions模块，可进行加减乘除运算。小数引用decimal模块，精度固定，计算结果更符合预期。还简单介绍了复数，实部加虚部，运算与数学一致。

本文介绍Java中处理小数计算的方法，包括使用float、double及BigDecimal的区别，如何通过BigDecimal进行精确计算，并讨论了小数保留精度的不同舍入方式及其应用场景。

28,403

社区成员

356,946

社区内容

发帖

与我相关

我的任务

社区管理员

加入社区

近7日
近30日
至今

加载中

查看更多榜单

社区公告

暂无公告

试试用AI创作助手写篇文章吧

+ 用AI写文章