浮点数精度的小问题

APM60- 2010-08-06 09:51:04
我现在要接收一些小数,截取到小数点后N位并转换成一个整数。

随便设了几个数做测试,发现有时输出的数值偏小。

如:
for(int i=0;i<5;i++)
{
//sends.Add(CSendData(i*102.03f,2));
float fValue = (i*102.03f);
CString str;
str.Format("%f", fValue);
::AfxMessageBox(str);
}
第2个数输出 102.029999 这样的。

后面的转换:
int nValue = int (fValue * pow(10.0f,nDot));
然后输出 10202 这样的数(我想得到10203)

请问如何才能得到比较准确的整数?
...全文
89 3 打赏 收藏 转发到动态 举报
写回复
用AI写文章
3 条回复
切换为时间正序
请发表友善的回复…
发表回复
InitialJ 2010-08-06
  • 打赏
  • 举报
回复
int nValue = int ((fValue + 0.5 * pow(10.0f,-nDot))* pow(10.0f,nDot));
一名程序员 2010-08-06
  • 打赏
  • 举报
回复
int nValue = int (fValue * pow(10.0f,nDot)+0.5);
ColdMooon 2010-08-06
  • 打赏
  • 举报
回复
用double

16,473

社区成员

发帖
与我相关
我的任务
社区描述
VC/MFC相关问题讨论
社区管理员
  • 基础类社区
  • Web++
  • encoderlee
加入社区
  • 近7日
  • 近30日
  • 至今
社区公告

        VC/MFC社区版块或许是CSDN最“古老”的版块了,记忆之中,与CSDN的年龄几乎差不多。随着时间的推移,MFC技术渐渐的偏离了开发主流,若干年之后的今天,当我们面对着微软的这个经典之笔,内心充满着敬意,那些曾经的记忆,可以说代表着二十年前曾经的辉煌……
        向经典致敬,或许是老一代程序员内心里面难以释怀的感受。互联网大行其道的今天,我们期待着MFC技术能够恢复其曾经的辉煌,或许这个期待会永远成为一种“梦想”,或许一切皆有可能……
        我们希望这个版块可以很好的适配Web时代,期待更好的互联网技术能够使得MFC技术框架得以重现活力,……

试试用AI创作助手写篇文章吧