求助:asp中小数计算的精度
response.Write("耿4F有功="&rsfirst("耿4F有功")&":org="&rsfirst1("耿4F有功")&"<br>")
tmpa=rsfirst("耿4F有功")
tmpb=rsfirst1("耿4F有功")
'tmpa=14538.42
'tmpb=14530.08
response.Write(tmpa-tmpb)
数据库中:
rsfirst("耿4F有功")=14538.42
rsfirst1("耿4F有功")=14530.08
计算结果为:11.56055,本应该是11.56,误差太大。
当将tmpa和tmpb直接赋值,结果为:8.34000000000015,误差还可以忍受。
为什么去表中的值就不对?
帮我想个解决的办法吧,谢谢!
在线等待!