0.6乘以1.5等于0.89999999

[大树学长]

RT

要怎么解决这种类型的错误？
0.6*1.5*10/10 = 0.9
0.06*1.5 = 0.09

[WJN92]

有什么问题？ 标题上面的问题是浮点的误差。 float 的最小误差为FLT_EPSILON

[worldy]

引用 楼主 bigtree_mfc 的回复:

RT 要怎么解决这种类型的错误？ 0.6*1.5*10/10 = 0.9 0.06*1.5 = 0.09

lz应该研究一下浮点小数的存储及固有的误差

[赵4老师]

浮点数格式 http://bbs.csdn.net/topics/390676437

[大树学长]

使用了一个很简单方法，就是对结果进行八舍九入，