浮点数的除法

SeanQ 2007-04-26 02:16:32
float a = 8.5;
float b = 0.00025f;
unsigned int c = (unsigned int)(a/b);
unsigned int d = (unsigned int)(8.5/0.00025);
执行完以上代码以后(在VC6.0上运行),为什么c的值为33999,d的值为34000
为什么会出现如此不同的结果
...全文
336 2 打赏 收藏 转发到动态 举报
AI 作业
写回复
用AI写文章
2 条回复
切换为时间正序
请发表友善的回复…
发表回复
江南一书生 2007-04-26
  • 打赏
  • 举报
回复
sorry前面打错字了:“按float精度处理出发”应为“按float精度处理除法”
江南一书生 2007-04-26
  • 打赏
  • 举报
回复
unsigned int c = (unsigned int)(a/b);//因为a,b是float类型,除法也是按float(32 bits)精度运算的
unsigned int d = (unsigned int)(8.5/0.00025);//编译器按double类型处理8.5和0.00025,故精度(64 bits)提高
如果用unsigned int e = (unsigned int)(8.5f/0.00025f);则亦指定编译器按float精度处理出发了,则e与c结果等

16,548

社区成员

发帖
与我相关
我的任务
社区描述
VC/MFC相关问题讨论
社区管理员
  • 基础类社区
  • AIGC Browser
  • encoderlee
加入社区
  • 近7日
  • 近30日
  • 至今
社区公告

        VC/MFC社区版块或许是CSDN最“古老”的版块了,记忆之中,与CSDN的年龄几乎差不多。随着时间的推移,MFC技术渐渐的偏离了开发主流,若干年之后的今天,当我们面对着微软的这个经典之笔,内心充满着敬意,那些曾经的记忆,可以说代表着二十年前曾经的辉煌……
        向经典致敬,或许是老一代程序员内心里面难以释怀的感受。互联网大行其道的今天,我们期待着MFC技术能够恢复其曾经的辉煌,或许这个期待会永远成为一种“梦想”,或许一切皆有可能……
        我们希望这个版块可以很好的适配Web时代,期待更好的互联网技术能够使得MFC技术框架得以重现活力,……

试试用AI创作助手写篇文章吧