两个浮点数相减，得数很奇怪，如9999999999，或者000000001。怎么回事？

kinglang 2002-05-28 09:27:06

我知道可能是两个数大小差不多造成的，哪位告诉我怎么解决。

...全文

413 4 打赏收藏转发到动态举报

写回复

4 条回复

切换为时间正序

请发表友善的回复…

发表回复

wxcwuxuchun 2002-05-28

打赏
举报

回复

float类型有精度问题，这是2进制存储造成的，没有办法解决，你可以使用double,会好一些。

WhyAndAnswer 2002-05-28

打赏
举报

回复

用double型应该没问题！

kinglang 2002-05-28

打赏
举报

回复

我设置的计算字段。

WhyAndAnswer 2002-05-28

打赏
举报

回复

在数据库中吗？

课后习题答案，方便学生自我检查学习成果

本篇文章介绍了，程序中两个Double类型相加出现误差的解决办法。需要的朋友参考下今天在自己做的系统中，发现了一个奇怪的现象：几个Double类型的数据相加，到最后得出的金额比正确数值总是少了几毛钱。以为是程序里的计算方法有问题，可是排查了很多地方，始终没有找到问题出在哪里。最后干脆把计算方法一句一句拆分，得到了最后最简单的一步，就是把两个具体的数值相加，但是最后的结果居然还是错误的。比如，现在已...

Pyhon float减法的非零问题

我正在尝试做一些非常基本的时间数学 – 基本上,考虑到时间和距离的输入,计算速度.我选择使用strtotime()将时间输入转换为秒 – 但我得到了一些奇怪的结果.例如,给定此示例程序：$t1 = strtotime("3:15:00",0);$t2 = strtotime("1:00:00",0);$t3 = strtotime("2:00:00",0);$t4 = strtotime("9:0...

今天调试程序遇到一个奇怪的问题: 有这么一个循环, for i= -2:0.1:1 if i==-0.2 break end ... end 可是每次执行都发现程序不会停止, 直到遍历结束. 等i等于-0.2的时候直接执行 i==-0.2, 发现结果竟然是0.也就是说matlab认为他们不相等. 后来才知道计算机在运算浮点数的时候总是有误差的. 虽然误差很小很小. 所以这时候不可以用==来评价了, 而是要看两者的差是否小于一个很小的值: abs(-0.2-i) < eps eps是浮点

13,875

社区成员

102,696

社区内容

发帖

与我相关

我的任务

社区管理员

加入社区

近7日
近30日
至今

加载中

查看更多榜单

社区公告

暂无公告

试试用AI创作助手写篇文章吧

+ 用AI写文章