两个浮点数相减，得数很奇怪，如9999999999，或者000000001。怎么回事？

kinglang 2002-05-28 09:27:06

我知道可能是两个数大小差不多造成的，哪位告诉我怎么解决。

...全文

384 4 打赏收藏转发到动态举报

写回复

4 条回复

切换为时间正序

请发表友善的回复…

发表回复

wxcwuxuchun 2002-05-28

打赏
举报

回复

float类型有精度问题，这是2进制存储造成的，没有办法解决，你可以使用double,会好一些。

WhyAndAnswer 2002-05-28

打赏
举报

回复

用double型应该没问题！

kinglang 2002-05-28

打赏
举报

回复

我设置的计算字段。

WhyAndAnswer 2002-05-28

打赏
举报

回复

在数据库中吗？

课后习题答案，方便学生自我检查学习成果

本篇文章介绍了，程序中两个Double类型相加出现误差的解决办法。需要的朋友参考下今天在自己做的系统中，发现了一个奇怪的现象：几个Double类型的数据相加，到最后得出的金额比正确数值总是少了几毛钱。以为是程序里的计算方法有问题，可是排查了很多地方，始终没有找到问题出在哪里。最后干脆把计算方法一句一句拆分，得到了最后最简单的一步，就是把两个具体的数值相加，但是最后的结果居然还是错误的。比如，现在已...

问题描述：在python中定义两个浮点型变量，值分别为1.1和2.2，两者相加并输出结果，结果并非为我们直观得到的3.3，而是趋近于3.3的一个小数值。代码如下： n1 = 1.1 n2 = 2.2 print(n1+n2) 输出结果： 3.3000000000000003 为什么会出现这种情况呢？分析：计算机中只有0和1，所有数据在计算机中都是以0和1的形式存储的，在机器字长有限的情况下，浮点数（小数）的精度也是有限的。举个例子：假如用一个8位的变量表示-1—1之间的小数，8位的变量共有

我正在尝试做一些非常基本的时间数学 – 基本上,考虑到时间和距离的输入,计算速度.我选择使用strtotime()将时间输入转换为秒 – 但我得到了一些奇怪的结果.例如,给定此示例程序：$t1 = strtotime("3:15:00",0);$t2 = strtotime("1:00:00",0);$t3 = strtotime("2:00:00",0);$t4 = strtotime("9:0...

Pyhon float减法的非零问题

13,870

社区成员

102,693

社区内容

发帖

与我相关

我的任务

社区管理员

加入社区

近7日
近30日
至今

加载中

查看更多榜单

社区公告

暂无公告

试试用AI创作助手写篇文章吧

+ 用AI写文章