两个浮点数相减，得数很奇怪，如9999999999，或者000000001。怎么回事？

kinglang 2002-05-28 09:27:06

我知道可能是两个数大小差不多造成的，哪位告诉我怎么解决。

...全文

341 4 打赏收藏转发到动态举报

写回复

4 条回复

切换为时间正序

请发表友善的回复…

发表回复

wxcwuxuchun 2002-05-28

打赏
举报

回复

float类型有精度问题，这是2进制存储造成的，没有办法解决，你可以使用double,会好一些。

WhyAndAnswer 2002-05-28

打赏
举报

回复

用double型应该没问题！

kinglang 2002-05-28

打赏
举报

回复

我设置的计算字段。

WhyAndAnswer 2002-05-28

打赏
举报

回复

在数据库中吗？

Pyhon float减法的非零问题

例如parseFloat(11.3-10.1) 或者直接11.3-10.1 出来的结果是1.200000000000001 最终只能取个相对理想的方法，但是还是没有达到预期希望的那样把就是在你相减完之后，进行小数点的取舍 parseFloat(11.3-10.1).toFixed(1) 例外js里面的字符串转换为数字的话，可以直接通过*1来实现例如：parseFlo...

我正在尝试做一些非常基本的时间数学 – 基本上,考虑到时间和距离的输入,计算速度.我选择使用strtotime()将时间输入转换为秒 – 但我得到了一些奇怪的结果.例如,给定此示例程序：$t1 = strtotime("3:15:00",0);$t2 = strtotime("1:00:00",0);$t3 = strtotime("2:00:00",0);$t4 = strtotime("9:0...

在写代码时直接使用+ - * / 对数字进行计算时不注意可能会一些bug（特别是两小数之间的运算），比如你不小心传入的值不是number类型，整数和浮点数相乘出现了很多位小数，两个小数相加减出现多个小数等… 整理一下方法：传入a，b，运行结果得到c，并且始终保持两位小数加 add function add(arg1,arg2,num){//num为保留位数,不传时不四舍五入 arg1=Number(arg1); arg2=Number(arg2); var r1=0,r2=0,m try {r1

前言：我先写一段测试代码来说明一下问题 @Test public void testCalculateScoreFloat(){ int fanScore = 14, flowers = 9, result = 0; float bascScore = 500; float[] basicPoint = {0f, 0.05f, 0.5...

13,825

社区成员

102,679

社区内容

发帖

与我相关

我的任务

社区管理员

加入社区

近7日
近30日
至今

加载中

查看更多榜单

社区公告

暂无公告

试试用AI创作助手写篇文章吧

+ 用AI写文章