64,654
社区成员
发帖
与我相关
我的任务
分享高手都过来看一看，double型数据异常问题
VC6.0开发的控件，在IE里调用一切正常，在VB6.0里调用发生DOUBLE类型数字异常，即计算得到的值是41386189.189125240，赋给一个double型变量值就变成了41386188.000000000，值3459254.1871355562变成了3459254.2500000000，有哪位高手说明一下怎么回事？
...全文
请发表友善的回复…
发表回复
mymtom 2009-09-28
- 打赏
- 举报
很久没有用VB了
omegabomb 2009-09-28
- 打赏
- 举报
应该是转换的时候类型变了，你查下他是怎么运作的
thy38 2009-09-28
- 打赏
- 举报
还是用标准C++的类型安心些。
timshadow 2009-09-28
- 打赏
- 举报
可能是类型的转换，当有不同的类型的时候为使类型统一，转换时发生了误差。
cphj 2009-09-28
- 打赏
- 举报
DOUBLE估计是VC自己定义的类型，你找找它的定义，估计不是double，直接赋值会有问题
鼠 2009-09-28
- 打赏
- 举报
看起来像中间过了一遍 float，你仔细检查一下？
