浮点数的转换问题

[ttianqq]

float fTemp = 0.03;
fTemp *= 1000;
long lTemp = (long)fTemp;

上面的代码运行 fTemp值为30.00， 而lTemp的值为29
如果
float fTemp = 0.03;
fTemp *= 1000;
fTemp += 0.000001;
long lTemp = (long)fTemp;
则lTemp的值为30


如果
float fTemp = 0.03;
float fT1 = fTemp * 1000;
long lTemp = (long)fT1;
则lTemp的值为30

请问原因是什么， 是不是因为浮点数在内存中是0.0299999
如果换成double类型就不存在这个问题， double类型是怎么存储的呢？

[lc19890326]

#include <iostream>
#include <vector>
using namespace std;
int main()
{
	float fTemp = 0.03;
	fTemp *= 1000;
	long lTemp = (long)fTemp; 
	cout<<fTemp<<" "<<lTemp<<endl;
}

都为30 VS2005下编译
可能依赖于你的编译器在转换时截断精度的问题

[heeten]

学习

[nullah]

[Quote=引用 1 楼 lc19890326 的回复:]
C/C++ code
#include <iostream>
#include <vector>
using namespace std;
int main()
{
float fTemp = 0.03;
fTemp *= 1000;
long lTemp = (long)fTemp;
cout<<fTemp<<" "<<lTemp<<endl;
}



都为30 VS2005下编译
可能依赖于你的编译器在转换时截断精度的问题
[/Quote]
yes

[ma100]

精度问题
可以自己写个函数

int Fun ( float data )
{
    if ( data > 0 )
        return static_cast<int> ( data + 0.5 );
    else
        return static_cast<int> ( data - 0.5 );
}

[lann64]

[Quote=引用楼主 ttianqq 的帖子:]
如果换成double类型就不存在这个问题， double类型是怎么存储的呢？
[/Quote]
精度问题，对double型一样存在。

[机智的呆呆]

float 和double类型变量的值是离散的，也就是说有些值不能被计算机完全精确标示的

#include <iostream>
#include <cstdio>
using namespace std;

int main()
{	
	float fTemp = 0.03;
	cout.precision(20);
	cout<<fTemp<<endl;
	system("pause");
}

像0.03就不能被精确标示，所以导致lz所说的问题

[CA_HA_M]

数据以2进制补码的方式存储于内存中,浮点数以指数形式存储,肯定会造成精度损失

[SearchLife]

精度问题
可以自己写个函数

C/C++ code
int Fun ( float data )
{
if ( data > 0 )
return static_cast<int> ( data + 0.5 );
else
return static_cast<int> ( data - 0.5 );
}


------------学习

[xxgamexx]

不知道再大型设计里面是如何 避免这样的问题的？

全用double？？

[bfhtian]

[Quote=引用 9 楼 xxgamexx 的回复:]
不知道再大型设计里面是如何 避免这样的问题的？

全用double？？
[/Quote]
看你所要算的数的精度，如果在float表示范围内就不用double了