怎样解决浮点数的精度问题呢？

烂笔头Danky 2005-03-29 07:32:02

一个浮点数在内存里存储时存在精度的问题，超过允许的精度都不能保存下来，就如：3.1415926这个浮点数用一个long double的类型来保存，在输出时也却只能输出3.14159，请问有什么办法可以解决这样的精度问题吗？

...全文

277 10 打赏收藏转发到动态举报

写回复

用AI写文章

10 条回复

切换为时间正序

请发表友善的回复…

发表回复

rocklabzhang 2005-03-30

打赏
举报

可以转化成字符串再运算
不过这样要专门写个类处理

烂笔头Danky 2005-03-30

打赏
举报

请帮忙看看这段程序，我的程序是试图把0.1415926这样的小数转换成1415926这样的整数，当fValue=3.1415926时程序可以正常工作，但当fValue=0.1415926时就进入了死循环变得不正常了，请问这是什么原因，应该怎样解决呢？

long double fValue = 0.1415926;
while ( (fValue-(long)fValue) != 0.0 )
{
fValue *= 10;
cout <<"fValue:" <<fValue <<endl;
cout <<"(long)fValue:" <<(long)fValue <<endl;
cout <<"fValue-(long)fValue:" <<fValue-(long)fValue <<endl <<endl;
}

hjf8086 2005-03-30

打赏
举报

cout<<setiosflags(ios::fixed)<<setprecision(7)
fixed是固定浮点数
setprecision(7)小数点后7位显示

pcboyxhy 2005-03-30

打赏
举报

最彻底的方法就是写一个高精度类

烂笔头Danky 2005-03-29

打赏
举报

那它们各自是什么意思啊？

xtutzh 2005-03-29

打赏
举报

cout<<fixed<<showpoint<<setprecision(7)

请可以说一下这里面的是什么意思吗，我估计这个（7）是用来指明输出的位数吧，这个fixed曾经见过，在印象中好像是用来控制输出的位数，但这个showpoint和setprecision是关键字吗？还是变量名呢？
它们不是关键字，而是 iostream的成员函数。注意：cout是内置的iostraam类的一个对象。

烂笔头Danky 2005-03-29