16,551
社区成员
发帖
与我相关
我的任务
分享请教,为什么我给double型数据附值有时得到的结果不精确?
a,b,c三个数据都是指定为double格式的edit,
a=10.00f;
b=1.40f;
c=a-c;
结果a显示正常,但是b显示1.39999997615814,c显示8.60000002384186
a=10.00f;
b=1.40f;
c=a-c;
结果a显示正常,但是b显示1.39999997615814,c显示8.60000002384186
...全文
请发表友善的回复…
发表回复
sonic123 2005-04-04
- 打赏
- 举报
问题是这些数据还要做其它计算，不是直接显示就的了,请问应该怎么解决?
oyljerry 2005-04-04
- 打赏
- 举报
自己格式化了
dfyang 2005-04-04
- 打赏
- 举报
赋值时转化成二进制会有一定误差的,应为每种类型就比如double类型吧,有一个有效数据位数的问题,而有些数以有效数据位无法表达,这就有一定的误差了,如果是1.25 or1.75 or1.875什么之类的一定就没问题了,但是1.40嘛,你自己不妨画一画,小数点后面有多少0和1
surstar 2005-04-04
- 打赏
- 举报
没有办法，格式化一下~
bobob 2005-04-04
- 打赏
- 举报
浮点数都有机器误差的
柯本 2005-04-04
- 打赏
- 举报
以前有多人问过的,二进制浮点运算是有误差的,你用MFC,可用CString的Format格式化
如:
CString x;
x.Format("%.2f",c); // 2位小数
如:
CString x;
x.Format("%.2f",c); // 2位小数
