double类型运算的问题,有人遇到过吗

TonyWJ 2013-09-12 03:04:19
以下程序:
double a=2413.8;
double b=2410.8;
double c=a-b;

调试时发现,c=2.999999995
有人遇到过吗,是怎么解决的?
...全文
198 8 打赏 收藏 转发到动态 举报
写回复
用AI写文章
8 条回复
切换为时间正序
请发表友善的回复…
发表回复
真相重于对错 2013-09-12
  • 打赏
  • 举报
回复
所以你的解决方案是在为结果凑条件
TonyWJ 2013-09-12
  • 打赏
  • 举报
回复
引用 6 楼 hdt 的回复:
[quote=引用 5 楼 TonyWJ 的回复:] [quote=引用 4 楼 hdt 的回复:] 10进制的1 ,二进制是1 10进制的2 ,二进制是10 计算机内部都是二进制表示, 再往下想想,如果0.1 ,0.2,怎么用二进制表示
我晕。。。你试试就知道了。。。[/quote] 我不用试当然知道,你的数学进制没学好,所谓 十进制0.1是一个物体分成10分取其1分,而二进制是一个物体分为2份,取其一份,这二者无法直接统一,所以计算机的浮点数运算肯定会有误差, 一般,我们会通过二者的查小于一个极限来表示相等[/quote] 嗯,用小于一个极限来表示倒是可以。
真相重于对错 2013-09-12
  • 打赏
  • 举报
回复
引用 5 楼 TonyWJ 的回复:
[quote=引用 4 楼 hdt 的回复:] 10进制的1 ,二进制是1 10进制的2 ,二进制是10 计算机内部都是二进制表示, 再往下想想,如果0.1 ,0.2,怎么用二进制表示
我晕。。。你试试就知道了。。。[/quote] 我不用试当然知道,你的数学进制没学好,所谓 十进制0.1是一个物体分成10分取其1分,而二进制是一个物体分为2份,取其一份,这二者无法直接统一,所以计算机的浮点数运算肯定会有误差, 一般,我们会通过二者的查小于一个极限来表示相等
TonyWJ 2013-09-12
  • 打赏
  • 举报
回复
引用 4 楼 hdt 的回复:
10进制的1 ,二进制是1 10进制的2 ,二进制是10 计算机内部都是二进制表示, 再往下想想,如果0.1 ,0.2,怎么用二进制表示
我晕。。。你试试就知道了。。。
真相重于对错 2013-09-12
  • 打赏
  • 举报
回复
10进制的1 ,二进制是1 10进制的2 ,二进制是10 计算机内部都是二进制表示, 再往下想想,如果0.1 ,0.2,怎么用二进制表示
TonyWJ 2013-09-12
  • 打赏
  • 举报
回复
尼玛,出绝招了。。。 先转换成2位小数的字符串,再atof
TonyWJ 2013-09-12
  • 打赏
  • 举报
回复
可是出现这种情况后 if (c >= 3) 总是无法触发
真相重于对错 2013-09-12
  • 打赏
  • 举报
回复
baidu google 一下 计算机浮点数是如何表示的

16,470

社区成员

发帖
与我相关
我的任务
社区描述
VC/MFC相关问题讨论
社区管理员
  • 基础类社区
  • Web++
  • encoderlee
加入社区
  • 近7日
  • 近30日
  • 至今
社区公告

        VC/MFC社区版块或许是CSDN最“古老”的版块了,记忆之中,与CSDN的年龄几乎差不多。随着时间的推移,MFC技术渐渐的偏离了开发主流,若干年之后的今天,当我们面对着微软的这个经典之笔,内心充满着敬意,那些曾经的记忆,可以说代表着二十年前曾经的辉煌……
        向经典致敬,或许是老一代程序员内心里面难以释怀的感受。互联网大行其道的今天,我们期待着MFC技术能够恢复其曾经的辉煌,或许这个期待会永远成为一种“梦想”,或许一切皆有可能……
        我们希望这个版块可以很好的适配Web时代,期待更好的互联网技术能够使得MFC技术框架得以重现活力,……

试试用AI创作助手写篇文章吧