救命贴：太奇怪了 ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^

[jukywen]

double tmpstockqu,tmpcz
.
.
.
.
select sum() into :tmpstockqu


tmpcz = dw_1.getitemnumber()

if tmpcz = tmpstockqu then
else

statement1

end if

但现在当 tmpcz 等于 tmpstockqu 时 也执行 statement1 语句
我跟踪时候发现， tmpcz 是等于 tmpstockqu, 但却执行了 statement1.


救命。

[jukywen]

没有人吗？

[NetColorWolf]

不用跟踪，而用messagebox()试一下呢

[iamxia]

这样试试
if (tmpcz = tmpstockqu) then
另外，你有没有考虑到空值（NULL）的情况？

[linda_gao]

because tmpcz and tmpstockqu is DOUBLE , so you can not compare them use "=" . you'd better use tmpcz - tmpstockqu < 0.000001 ,
for example
aa = 1.21 , bb = 0.9 , cc = aa + bb , dd = 2.11

if you use if cc = dd then statement1 else statement2, you will find , statement2 will be recalled.

[tiger201]

DOUBLE类型的尾数有随机性，其本上没有两个DOUBLE会相等的。
用相减或指定只取到小数点后几位来比较。

[eastseaofdragon]

up

[jukywen]

现在的问题是： 我在SQL Server 表中看到的数是小数三位的，对应与该表的数据窗口的显示也是三位的， 用getitemnumber 取到的数值也是三位的， 另一个变量我用 round()也取了三位，这些我在跟踪时都很确定， 但PB仍旧认为是不等的，


这就太怪了吧？

[jukywen]

也就是说我对于 double 的比较都必须 用 if a-b < .001 吗？

用 if round(x,3) = round(y,3) then 行吗？

[NetColorWolf]

你判断“tmpcz 等于 tmpstockqu”的依据是什么？

[jukywen]

up 1

[honye2000]

兩個變量定義時用decimal類型應該沒問題

另外應考慮null

[tiger201]

好象if round(x,3) = round(y,3) then 也不行。

你试试：
dec a,b
a=round(x,3)
b=round(y,3)
if a =b then

[ColdWolf]

学到一点东西
我是来相大家学习的啊