70,037
社区成员
发帖
与我相关
我的任务
分享简单问题,呵呵!
double temp = 1;
while( fabs(temp) > 1.0e-8)
这个比较有没有错？
我就是想确定temp比这个精度（10的负8次方）要大！
while( fabs(temp) > 1.0e-8)
这个比较有没有错？
我就是想确定temp比这个精度（10的负8次方）要大！
...全文
请发表友善的回复…
发表回复
bitipierce 2003-06-08
- 打赏
- 举报
恩！这些建议很有道理，我发现我在这些基本数据类型上欠缺比较大，从前学就很讨厌那些精度，范围什么的！
idontlikenickname 2003-06-08
- 打赏
- 举报
哦~
可能的原因是编译器把你写的1.0E-8当成了单精度(float型),
这种类型的最小精度是FLT_EPSILON = 1.192092896e-07F,这时候1.0+FLT_EPSILON !=1.0,
你用了比最小精度还小的数,当然就分不出来了,1.0+1.0E-8 == 1.0,
个人分析,有误请指出~~
qrlvls 2003-06-08
- 打赏
- 举报
up
shupianbird 2003-06-08
- 打赏
- 举报
在while里每次减多少?是不是过了?试试改为每次除2
locky1982 2003-06-08
- 打赏
- 举报
应该可以的
billwolf4 2003-06-07
- 打赏
- 举报
(float)temp
bitipierce 2003-06-07
- 打赏
- 举报
当然是temp在while里不断减少了！
我把那个1e－8 换成个 0.001 就OK了！
郁闷！
我把那个1e－8 换成个 0.001 就OK了！
郁闷！
bitipierce 2003-06-07
- 打赏
- 举报
当然是temp在while里不断减少了！
我把那个1e－8 换成个 0.001 就OK了！
郁闷！
我把那个1e－8 换成个 0.001 就OK了！
郁闷！
idontlikenickname 2003-06-07
- 打赏
- 举报
条件为真,当然死循环~~~
bitipierce 2003-06-07
- 打赏
- 举报
为什么VC编译下好像是个死循环？
pzytony 2003-06-07
- 打赏
- 举报
正确，没错误
