64,651
社区成员
发帖
与我相关
我的任务
分享double类型转换int类型时精度丢失
问题如下：
double x, y;
DWORD a;
x = 4.0;
y = 0.01;
a = x / y;
执行完后a是399，我需要得到400。我需要怎样做？
各位大侠帮忙啊！很急，在线等
double x, y;
DWORD a;
x = 4.0;
y = 0.01;
a = x / y;
执行完后a是399，我需要得到400。我需要怎样做？
各位大侠帮忙啊！很急，在线等
...全文
请发表友善的回复…
发表回复
dfkoko 2006-11-03
- 打赏
- 举报
double x, y;
double a;
x = 4.0;
y = 0.01;
a = x / y;
a=400
double a;
x = 4.0;
y = 0.01;
a = x / y;
a=400
pcboyxhy 2006-11-03
- 打赏
- 举报
二进制方式的浮点数表示不是精确的
很多数在计算机里面无法使用二进制浮点数计数法表示出来
比如5.1
很多数在计算机里面无法使用二进制浮点数计数法表示出来
比如5.1
OOPhaisky 2006-11-03
- 打赏
- 举报
同意taodm(taodm) 的做法，跟浮点数打交道，要小心，还要学会忍耐^_^
femalelover 2006-11-03
- 打赏
- 举报
标记
KenYuan2016 2006-11-03
- 打赏
- 举报
四舍五入吧
a = x / y; 改为 a =( x / y + 0.5);
a = x / y; 改为 a =( x / y + 0.5);
Macor 2006-11-03
- 打赏
- 举报
用的是vc7???
看下环境变量你是怎么设的，或者直接开个console再试一把
我试了把
double x, y;
DWORD a;
x = 4.0;
y = 0.01;
a = x / y;
----------------
a = 400
看下环境变量你是怎么设的，或者直接开个console再试一把
我试了把
double x, y;
DWORD a;
x = 4.0;
y = 0.01;
a = x / y;
----------------
a = 400
weijiangshanwww 2006-11-03
- 打赏
- 举报
比如说4/0.001
你可以先变成4/1=4
然后你移回来3位，就是4000了，
反正大概的思想了！
你可以先变成4/1=4
然后你移回来3位，就是4000了，
反正大概的思想了！
weijiangshanwww 2006-11-03
- 打赏
- 举报
double x, y;
DWORD a;
x = 4.0;
y = 0.01;
a = x / y;
===========================
那你试着移位，然后计算，再移位回来。
DWORD a;
x = 4.0;
y = 0.01;
a = x / y;
===========================
那你试着移位，然后计算，再移位回来。
asusa3a 2006-11-03
- 打赏
- 举报
既然涉及到精度问题，怎么还这么做？为啥不另起方法？
guoyabin2000 2006-11-03
- 打赏
- 举报
谢谢楼上的帮忙，还有没有其他的办法了？
C语言里有没有像Delphi里的Trunc和round的函数
C语言里有没有像Delphi里的Trunc和round的函数
taodm 2006-11-03
- 打赏
- 举报
没办法确保！
a = x /y + 0.5；会让你好过点。
也许，你使用double本来就是个错误。
计算机只保证（小）整数运算是精确的。
a = x /y + 0.5；会让你好过点。
也许，你使用double本来就是个错误。
计算机只保证（小）整数运算是精确的。
hourui 2006-11-03
- 打赏
- 举报
四舍五入吧
a = x / y; 改为 a =( x / y + 0.5);
a = x / y; 改为 a =( x / y + 0.5);
