请帮忙

Emilee 2003-12-10 10:32:30
在文本框中输入浮点数
用CDbl转换成double类型
ex: num&=CDbl("text1.text") 'text1.text=0.376
对num循环执行:
do
num=num*10-int(num*10)
loop while num
将得不到正常的结束
发现执行的第三次时num的值为0.599……98,而不是0.6
为什么?怎么解决?
如果期望输入の浮点数精度很高
即不能通过比较较小值来退出循环
应该怎么办?
期望大家的帮助,谢谢!


...全文
2 点赞 收藏 1
写回复
1 条回复
切换为时间正序
请发表友善的回复…
发表回复
Emilee 2003-12-10
怎么没有修改的
上面的ex: num&=CDbl("text1.text") 'text1.text=0.376
改为ex: num#=CDbl("text1.text") 'text1.text=0.376

回复
发动态
发帖子
VB基础类
创建于2007-09-28

7451

社区成员

VB 基础类
申请成为版主
社区公告
暂无公告