QT中QString转Double和Float的问题

[zhujun1980]

在QT中遇到奇怪的问题:
QString x = "814.536";
double d = x.toDouble();
floar f = x.toFloat();

最终结果
d = 814.53599999999994
f = 814.536011

结果是debug时看到的值。有人能解释下吗？

[豆丷]

数值在计算机里都是二进制的，所以二进制转十进制小数的时候会出现误差， 至于长度，float和double的精度不同，也就是小数点后保留的位数不同， 所以进行条件判断的时候double和float类型的值不要用“==” （我用的是绝对值判断 fabs（a-b）<1e-5）

[轻箬笠]

double和float数存在精度问题。具体数值参照IEEE754标准