110,538
社区成员
发帖
与我相关
我的任务
分享浮点数运算不解之谜?
浮点数运算时，系统会产生误差，如下：
double oo = 19.6D;
double pp = oo * 100D;
pp期望结果:1960.0
pp实际结果:1960.00000000002
为什么，怎么解决，实在不解！
要知道，在对数值精度和正确性要求非常高的系统里，这可能是致命的错误啊！
double oo = 19.6D;
double pp = oo * 100D;
pp期望结果:1960.0
pp实际结果:1960.00000000002
为什么，怎么解决，实在不解！
要知道，在对数值精度和正确性要求非常高的系统里，这可能是致命的错误啊！
...全文
请发表友善的回复…
发表回复
fireyan 2004-11-25
- 打赏
- 举报
真这样啊？恐怖
gqchen1981 2004-11-25
- 打赏
- 举报
取其精度吧！double一般到13位左右就不是原来值了！
float也是的！
float也是的！
