奇怪的问题，ASP计算

[zyb51]

我用ASP计算，如下：
(1.2-1)*50 结果 10√
Int((1.2-1)*50) 结果 9 为什么？？？
10-((1.2-1)*50) 结果：1.77635683940025E-15 为什么？？

那位帮忙回答一下呢，好怪，，是我数字没有学好？？

[dean8828]

我也没学好，照道理，第二个应该是10吧。。

[挨踢直男]

1.77635683940025E-15 这个数字有没有问题啊

[dean8828]

估计LZ没有把所有代码都发出来

[zyb51]

[Quote=引用 2 楼 aspwebchh 的回复:]
1.77635683940025E-15  这个数字有没有问题啊
[/Quote]
程序输出就是这个样子的。。郁闷

[zyb51]

[Quote=引用 3 楼 dean8828 的回复:]
估计LZ没有把所有代码都发出来
[/Quote]
所有代码：

Response.write (1.2-1)*50        '结果 10√ 
Response.write "<hr />"
Response.write Int((1.2-1)*50)  '结果 9  为什么？？？ 
Response.write "<hr />"
Response.write 10-((1.2-1)*50)  '结果：1.77635683940025E-15  为什么？？ 

[挨踢直男]

1.77635683940025E-15 这个值以经可以小到忽略不记了啊 估计是计算机精确过头了

[an_jincheng8310]

Int((1.2-1)*50) 改为CInt((1.2-1)*50)试试！
10-((1.2-1)*50) 改为formatnumber(（10-((1.2-1)*50)），5，-1）试试！

[wxyabc]

Int((1.2-1)*50)=9
Int((1.4-1)*50)=19
Int((1.9-1)*50)=44
应该是浮点数计算误差的问题吧