请教一个简单问题:10-9.2=?

kurama 2003-09-14 10:26:14
这是偶然发现的,不知为什么
10-9.1=.1
10-9.2=.800000000000001
10-9.3=.699999999999999
10-9.4=.6
10-9.5=.5
...
...全文
78 13 打赏 收藏 转发到动态 举报
写回复
用AI写文章
13 条回复
切换为时间正序
请发表友善的回复…
发表回复
kurama 2003-09-15
  • 打赏
  • 举报
回复
明白了,谢了哈
viena 2003-09-15
  • 打赏
  • 举报
回复
浮点数表数范围大,但不精确;定点数精确,但表数范围小
viena 2003-09-15
  • 打赏
  • 举报
回复
如果你需要绝对精确,不涉及除法、开方等运算,那么可以用先变成整数(乘以10的倍数)进行运算,算完后再加小数点。
kurama 2003-09-15
  • 打赏
  • 举报
回复
两个数的数据类型都改为Double型也不行
kurama 2003-09-15
  • 打赏
  • 举报
回复
那要单独处理了
lzj34 2003-09-15
  • 打赏
  • 举报
回复
把两个数的数据类型都改为Double型吧
viena 2003-09-15
  • 打赏
  • 举报
回复
没有错啊,浮点运算本身就不可能精确,已经精确到小数点后13位了,难道还不能满足你的要求?
kurama 2003-09-15
  • 打赏
  • 举报
回复
用FormatNumber(x - y, 2)就限定了显示格式啊。如果编写一个简单的计算器程序,格式不固定,这样用就不好吧。
cowley 2003-09-15
  • 打赏
  • 举报
回复
这是数据类型的问题,只要把数据类型改正确就不会有这样的问题了!
xuwuyu 2003-09-14
  • 打赏
  • 举报
回复
呵呵,我刚才也试了下,也是有这个问题!
FormatNumber(x - y, 2),试试这个吧,应该没问题了,呵呵
kurama 2003-09-14
  • 打赏
  • 举报
回复
可能不是数据类型的问题,这是在立即窗口中得到的结果;
改了也不行:
Private Sub Form_Activate()
Dim x, y As Double
x = 10
y = 9.2
Print x - y
End Sub
并且只有 10-9.2=.800000000000001
10-9.3=.699999999999999
有问题
foreverforyou 2003-09-14
  • 打赏
  • 举报
回复
把数据类型改为Double型吧
xuwuyu 2003-09-14
  • 打赏
  • 举报
回复
我也遇到过的问题!后来该了数据类型,就对了!
一、课程大纲2023年华为考试大纲考试分数章目录小节80第1章:网络参考模型1.1OSI网络参考模型介绍1.2OSI网络参考模型各层的作用1.3 OSI与TCP/IP模型的比较1.4 TCP与UDP第2章:华为VRP系统2.1eNSP的安装和使用2.2VRP的介绍2.3VRP的基本配置命令2.4VRP文件系统操作命令270第3章:IP地址3.1网络层协议3.2IP地址介绍3.3IP地址计算3.4VLSM3.5ICMP3.6IP地址配置第4章:IP路由基础4.1路由器的工作原理4.2路由条目优选4.3静态路由4.4缺省路由4.5路由的高级特性第5章:OSPF基础5.1动态路由协议介绍5.2OSPF基本概念5.3OSPF基本原理 5.4OSPF的网络类型280第6章:以太网交换机基础6.1以太网介绍6.2以太网帧介绍6.3交换机基本原理6.4同网段通信全过程第7章:VLAN的原理与配置7.1 VLAN与TRUNK的理论7.2VLAN与TRUNK的实验7.3交换机的接口类型第8章:STP8.1为什么要有STP8.2 STP的原理8.3 STP的配置与BPDU包文8.4RSTP对STP的改进第9章:VLAN章通信9.1VLAN间通信-单臂路由9.2VLAN间通信-VLANIF第10章:以太网链路聚合10.1链路聚合-手工模式10.2链路聚合-LACP80第11章:ACL原理与配置11.1ACL的原理11.2基本ACL11.3高级ACL11.4基于时间ACL第12章:AAA的原理与配置12.1AAA的工作原理12.2本地AAA配置第13章:NAT13.1静态NAT13.2动态NAT13.3easy IP13.4NAT server5014章:网络服务与应用14.1FTP14.2telnet14.3DHCP14.4HTTP14.5DNS100第15章:WLAN15.1WLAN的工作流程15.2WLAN无线综合实验30第16章:广域网技术16.1广域网概念16.2PAP认证16.3CHAP认证16.4PPPOE的工作原理16.5PPPOE实验30第17章:网络管理与运维17.1SNMP原理17.2SNMP的配置50第18章:IPV618.1IPV6的地址格式18.2NDP18.3IPV6的配置30第19章:网络编程与自动化19.1python概述19.2python实验二、理论PPT可以提供下载三、实验软件免费送、免费安装四、实验拓扑(带答案),让你的实验无忧五、学完后,如果想考试,可以提供题库六、课后答疑 学习有任务问题,可以第一时间与老师取得联系,保证第一时间帮你解答。 七、本书作者亲自授课                                                         

7,759

社区成员

发帖
与我相关
我的任务
社区描述
VB 基础类
社区管理员
  • VB基础类社区
加入社区
  • 近7日
  • 近30日
  • 至今
社区公告
暂无公告

试试用AI创作助手写篇文章吧