求助 Double精度的问题

zhouhuaian 2005-08-04 03:32:25
在vb.net中
定义 Dim c As Double = 999999999999999.99 时
程序会自动转化为Dim c As Double = 1.0E+15的形式

另外:Dim c As Double = 999999999999999.91--〉Dim c As Double = 999999999999999.87
Dim c As Double = 999999999999999.85--〉Dim c As Double = 999999999999999.87
Dim c As Double = 999999999999999.81--〉Dim c As Double = 999999999999999.75
自动变换等问题。
例如:
999999999999999.99-999999999999999.98=0.01
但在程序中则等于0值.与应得值不一致.
因为要做数字方面的计算,精度很重要.
特求助大家有没有解决方法.
...全文
133 2 打赏 收藏 转发到动态 举报
写回复
用AI写文章
2 条回复
切换为时间正序
请发表友善的回复…
发表回复
zhouhuaian 2005-08-04
  • 打赏
  • 举报
回复
Decimal的也一样,Single,Long型的都不行.
g555 2005-08-04
  • 打赏
  • 举报
回复
用Decimal数据类型

16,721

社区成员

发帖
与我相关
我的任务
社区描述
VB技术相关讨论,主要为经典vb,即VB6.0
社区管理员
  • VB.NET
  • 水哥阿乐
  • 无·法
加入社区
  • 近7日
  • 近30日
  • 至今
社区公告
暂无公告

试试用AI创作助手写篇文章吧