28,409
社区成员
发帖
与我相关
我的任务
分享计算数据库里面的总数问题
为什么我用sum查询access数据库里面的总数会有很多小数点.
比如说查询:
id user zonger
1 name 5.2
2 name 2.1
3 name 1.5
Conn.execute("select sum(zonger) as sum_jine from shop_action where username='"&request.Cookies("shopxp")&"' ")(0)
算出来的总数是:8.79999971389771
怎么回事啊?
比如说查询:
id user zonger
1 name 5.2
2 name 2.1
3 name 1.5
Conn.execute("select sum(zonger) as sum_jine from shop_action where username='"&request.Cookies("shopxp")&"' ")(0)
算出来的总数是:8.79999971389771
怎么回事啊?
...全文
请发表友善的回复…
发表回复
arorn 2008-04-13
- 打赏
- 举报
问题是解决了,就是不知道原因
longnights 2008-04-13
- 打赏
- 举报
[Quote=引用 1 楼 hookee 的回复:]
浮点数计算有精度问题
显示的时候用FormatNumber(value,2,-1,0,-1)格式化一下，保留足够的小数位就可以了
[/Quote]
zonger的字段是数值型 单精度型,所以sum(zongger)得出的数值sum_jine是单精度型,所以有这么多的小数
浮点数计算有精度问题
显示的时候用FormatNumber(value,2,-1,0,-1)格式化一下，保留足够的小数位就可以了
[/Quote]
zonger的字段是数值型 单精度型,所以sum(zongger)得出的数值sum_jine是单精度型,所以有这么多的小数
snlixing 2008-04-13
- 打赏
- 举报
也可以用round(value,2)
snlixing 2008-04-13
- 打赏
- 举报
浮点数得到的基本上都是近似值,所以如果要求精确的答案,应该该避免使用float和double.
可以使用Decimal.
可以使用Decimal.
wpjwll 2008-04-12
- 打赏
- 举报
up 1
arorn 2008-04-12
- 打赏
- 举报
我试了一下是可以的,我就想弄明白是怎么会事?
qiuling_998 2008-04-12
- 打赏
- 举报
同意1楼的说法!
arorn 2008-04-12
- 打赏
- 举报
zonger的字段是数值型 单精度型 这条设置有问题吗?
怎么会出现这么多小数点
怎么会出现这么多小数点
hookee 2008-04-12
- 打赏
- 举报
浮点数计算有精度问题
显示的时候用FormatNumber(value,2,-1,0,-1)格式化一下，保留足够的小数位就可以了
显示的时候用FormatNumber(value,2,-1,0,-1)格式化一下，保留足够的小数位就可以了
