浮点值计算出现小数点错误
ghui 2005-10-29 09:41:50 //相同精度下计算,
double a, b, c, d, f;
a = 0.38;
b = 0.68;
c = 8.38;
d = 86.38;
f = 100.0;
double x = f - a - b - c - d;
我自以为是 x = 4.18
结果却是 x = 4.18000000000001
由于一些数据的小数点后位数会高达24位,如何避免这种精度误差
*在我的印象中,C++在相同的精度下计算,似乎不会出现这种问题。