两个相同的双精度小数相减不等于0

yangyaodell 2020-06-16 11:09:42

两具cdbl类型的7.6相减,等于

7.6-7.6=2.66453525910038E-15

这个怎么处理?

...全文

5566 3 打赏收藏转发到动态举报

写回复

3 条回复

切换为时间正序

请发表友善的回复…

发表回复

化境者 2020-06-21

打赏
举报

回复

不太可能会出现这个问题，你用两个变量装一下再减试试

hookee 2020-06-20

打赏
举报

回复

先要确定保留几位小数

三楼の郎 2020-06-18

打赏
举报

回复

round函数做四舍五入

用python进行运算时，如果会出现浮点数，有时候会需要对小数精度进行控制，主要方法有以下几种：1、round（）round()是python的内置方法， round()如果只有一个数作为参数，不指定位数的时候，返回的是一个整数，而且是最靠近的偶数整数(python2.7版本则是四舍五入，这个针对的是python3版本）。如果有两个参数则最多保留精度为第二个参数大小。In [1]: 4 - 3.6

8.JS小数精度问题 var two = 0.2 var one = 0.1 var eight = 0.8 var six = 0.6 [two - one == one, eight - six == two] 0.2-0.1 //0.1 0.8-0.6 //0.20000000000000007 //答案是[true,false] //要想后者为true (0.8-0.6).toFixed(1)//0.2 JS不能很精确地表示小数。当两个浮点数相加或者相减，将有可能会导致精度丢失问题。

原因:js按照2进制来处理小数的加减乘除,在arg1的基础上将arg2的精度进行扩展或逆扩展匹配,所以会出现如下情况. javascript(js)的小数点加减乘除问题，是一个js的bug如0.3*1 = 0.2999999999等，下面列出可以完美求出相应精度的四种js算法 function accDiv(arg1,arg2){ var t1=0,t2=0,r1,r2; try{t1=arg1.toString().split(".")[1].length}catch(e){} try

我们知道计算机数据处理中都是把数据识别为二进制，而不是我们习惯的十进制，所以在数据计算时首先会把数据转换为二进制，比如 0.1 => 0.0001 1001 1001 1001…（无限循环），因为数据的不同，有些数据在转换成二进制后会无限循环，但计算机是不允许无限循环的，对于无限循环的小数，计算机会进行舍入处理。进行双精度浮点数的小数部分最多支持 52 位，因浮点数小数位的限制而截断的二进制...

在类模板外定义各成员函数。 #include <iostream> #include <iomanip> using namespace std; template<class numtype> class Compare { public: Compare(numtype a,numtype b); numtype max(); ...

28,390

社区成员

357,068

社区内容

发帖

与我相关

我的任务

社区管理员

加入社区

近7日
近30日
至今

加载中

查看更多榜单

社区公告

暂无公告

试试用AI创作助手写篇文章吧

+ 用AI写文章