access_vba,select_case语法问题请教

superchenxx 2009-06-01 09:38:07

Function Calculate(ByVal lngNumber As Long, _
ByVal dblSignature As Double) As Long

Dim a As Long
Dim b As Double
Dim Total As Double

a = Int(dblSignature)
b = dblSignature - a

For i = 1 To a
……
Next i

Select Case b

Case 0.25
……
Case 0.3
……
Case 0.5
……
Case 0.8
……

Case 0.75
……

End Select

Calculate = Total

End Function


调试时发现,只要b值为0.3时,select case判断时就会忽略case 0.3那条,直接跳过。在监视中b=0.3的值为false,可是b的值明明就是0.3,困恼中
...全文
267 4 打赏 收藏 转发到动态 举报
AI 作业
写回复
用AI写文章
4 条回复
切换为时间正序
请发表友善的回复…
发表回复
xbin_2009 2009-06-01
  • 打赏
  • 举报
回复
可考虑用 Currency 数据类型代替 Double ,如果小数位不超过4位,Currency可精确匹配.
ACMAIN_CHM 2009-06-01
  • 打赏
  • 举报
回复

浮点数 0.3 是无法用二进制表示的

0.3 = 0.25 + 0.03125 + 0.015625 + ....


superchenxx 2009-06-01
  • 打赏
  • 举报
回复
那为什么只有0.3出问题呢,其他几项都没有问题啊
ACMAIN_CHM 2009-06-01
  • 打赏
  • 举报
回复

注意浮点数的误差!计算机中浮点数并不能准确的表示很多小数。

一种解决方法就行 *100 后取整后再比。

当您的问题得到解答后请及时结贴.
http://topic.csdn.net/u/20090501/15/7548d251-aec2-4975-a9bf-ca09a5551ba5.html

7,732

社区成员

发帖
与我相关
我的任务
社区描述
Microsoft Office Access是由微软发布的关系数据库管理系统。它结合了 MicrosoftJet Database Engine 和 图形用户界面两项特点。
社区管理员
  • Access
加入社区
  • 近7日
  • 近30日
  • 至今
社区公告
暂无公告

试试用AI创作助手写篇文章吧