(0.42-0.4/0.02)=0.999999999999998

[a2720459]

Option Compare Database
Private Sub Command4_Click()
Text12 = (Text11 - Text15) / 0.02
Text21 = (Text20 - 0.4) / 0.02
End Sub

Private Sub Text11_AfterUpdate()
Text12 = (Text11 - Text15) / 0.02
End Sub

Private Sub Text20_AfterUpdate()
Text21 = (Text20 - 0.4) / 0.02
End Sub

[paschen]

很多十进制浮点数是不能用二进制精确表示的

[X-i-n]

clng((0.42-0.4)/0.02) =1

[宋哥]

引用 1 楼 paschen 的回复:

很多十进制浮点数是不能用二进制精确表示的

所以精确计算往往都要将小数化成整数计算，(42-40)/2

[宋哥]

引用 2 楼 Runnerchin 的回复:

clng((0.42-0.4)/0.02) =1

你这个结果是将小数转换成整数过程中四舍五入得到的结果，不是计算值，clng(0.55)=1

[waderdu]

wps也有，15位的时候就是这个样子。