7,785
社区成员
发帖
与我相关
我的任务
分享请帮忙
在文本框中输入浮点数
用CDbl转换成double类型
ex: num&＝CDbl（"text1.text") 'text1.text=0.376
对num循环执行：
do
num=num*10-int(num*10)
loop while num
将得不到正常的结束
发现执行的第三次时num的值为0.599……98，而不是0.6
为什么？怎么解决？
如果期望输入の浮点数精度很高
即不能通过比较较小值来退出循环
应该怎么办？
期望大家的帮助，谢谢！
用CDbl转换成double类型
ex: num&＝CDbl（"text1.text") 'text1.text=0.376
对num循环执行：
do
num=num*10-int(num*10)
loop while num
将得不到正常的结束
发现执行的第三次时num的值为0.599……98，而不是0.6
为什么？怎么解决？
如果期望输入の浮点数精度很高
即不能通过比较较小值来退出循环
应该怎么办？
期望大家的帮助，谢谢！
...全文
请发表友善的回复…
发表回复
Emilee 2003-12-10
- 打赏
- 举报
怎么没有修改的
上面的ex: num&＝CDbl（"text1.text") 'text1.text=0.376
改为ex: num＃＝CDbl（"text1.text") 'text1.text=0.376
上面的ex: num&＝CDbl（"text1.text") 'text1.text=0.376
改为ex: num＃＝CDbl（"text1.text") 'text1.text=0.376
