怎么算才能不出错??小数的精度问题?
dszy 2003-07-10 02:44:36 float inta,Dec1;
int Dec2,DecHex,DecL,DecH;
inta=SetFreq*0.00025;
Dec1=inta-int(inta); //小数
Dec2=int(Dec1*4000);
ShowMessage(IntToStr(Dec2)+" "+FloatToStr(Dec1*4000)+" "+FloatToStr(Dec1));
现在如果SetFreq=360001, 则结果为:
1 1.007080078125 0.00025177001953125
如果SetFreq=360007。则:
6 6.988525390625 0.00174713134765625
可是正确结果应该是:
7 7 0.00175
我怎么才能得到正确的结果呢??