一個有趣的問題

[s_111111]

CLEAR
Create Cursor AAA(A N(16,5))
Insert Into AAA(A) Values (2684.18000)
?Int(AAA.A*100000)
Create Cursor AAA(A N(16,5))
Insert Into AAA(A) Values (2685.18000)
?Int(AAA.A*100000)
大家猜猜結果是什么

[s_111111]

还是不很清楚，我看他并没有超过他的最大长度，小数位也没超过
就拿2685.18000和2684.18000比较，如果是精度问题的话，转换整形后应该都变才对。
2048.18000以1递增直到2684.18000之间的每个数乘以100000再转整形后，小数位都会变为17999，如果是精度问题的话该怎么解释

[cbl518]

这是vfP 的 int() 函数，20 多年前就存在的一个问题！


用 ROUND 函数替代 INT 函数:
CLEAR
Create Cursor AAA(A N(16,5))
Insert Into AAA(A) Values (2684.18000)
?ROUND(AAA.A*100000,0)
Create Cursor AAA(A N(16,5))
Insert Into AAA(A) Values (2685.18000)
?ROUND(AAA.A*100000,0)

[十豆三]

数字精度
当在 数值型 字段中存储浮点数字时，Visual FoxPro 中的数字精度被限定为大约 15 个阿拉伯数字。因此，当把十进制转换为二进制数、以二进制存储带有无限循环小数值的数字、执行多个重复运算，以及在 Character 字段和以二进制格式在内存变量中存储数字值时，超过 15 个阿拉伯数字的精度可能被丢失。

这个限制是基于 Pentium 系列处理器计算和存储浮点数的方式，并遵从了电机工程师协会(IEEE)以二进制格式操作浮点数字的浮点规范。这个标准使浮点数字以合理的空间数被存储并实现更快速的计算。

例如，分数 1/10 可以被表示为十进制值 0.1。然而，当以二进制存储 1/10 时，十进制值就不同于该分数了。相反，该分数是一个循环的二进制小数 0001100110011100110011 等等。这种数字类型不能在有限的内存中被表示，因此，当以二进制存储时，十进制值被四舍五入。

有关要求更高精度的值，请参见 双精度型字段类型。


有关浮点数字被存储和 Pentium 系列处理器如何处理它们的计算的更详细信息，请参见 http://support.microsoft.com/default.aspx?scid=kb;en-us;Q78113 上的 Microsoft Knowledge Base Article - Q78113, "XL: Floating-Point Arithmetic May Give Inaccurate Results"。

下面示例举例说明了 数值型 数据类型对于浮点数数字精度方面的限制：

复制代码
x=1234567890.0987654321
? x


结果是 1234567890.0987650000。

[s_111111]

但是我這個問題不是精度問題吧，他們長度都一樣，但結果不一樣。
結果是：268417999
268518000
表明他不是長度精度問題。

[十豆三]

x=1234567890.0987654321
? x

你的问题也这个差不多，是处理器计算的造成的。

[都市夜猫]

应该还是精度问题

v1 = 2684.18000
v2 = 2684.1800

? v1*100000, int(v1*100000)
? v2*100000, int(v2*100000)

[十豆三]

?str(9.2222,50,18)

如果是Int的Bug，这个又如何解释？

[十豆三]

所以我还是认为是由处理器计算的造成的。

[十豆三]

上面用ROUND是因为4舍5入了。

[s_111111]

是INT()函數的一個BUG嗎，為什么還不改正他，都20年了

[s_111111]

小問題還是蠻多的呀