社区
VB基础类
帖子详情
请教一个简单问题:10-9.2=?
kurama
2003-09-14 10:26:14
这是偶然发现的,不知为什么
10-9.1=.1
10-9.2=.800000000000001
10-9.3=.699999999999999
10-9.4=.6
10-9.5=.5
...
...全文
78
13
打赏
收藏
请教一个简单问题:10-9.2=?
这是偶然发现的,不知为什么 10-9.1=.1 10-9.2=.800000000000001 10-9.3=.699999999999999 10-9.4=.6 10-9.5=.5 ...
复制链接
扫一扫
分享
转发到动态
举报
写回复
配置赞助广告
用AI写文章
13 条
回复
切换为时间正序
请发表友善的回复…
发表回复
打赏红包
kurama
2003-09-15
打赏
举报
回复
明白了,谢了哈
viena
2003-09-15
打赏
举报
回复
浮点数表数范围大,但不精确;定点数精确,但表数范围小
viena
2003-09-15
打赏
举报
回复
如果你需要绝对精确,不涉及除法、开方等运算,那么可以用先变成整数(乘以10的倍数)进行运算,算完后再加小数点。
kurama
2003-09-15
打赏
举报
回复
两个数的数据类型都改为Double型也不行
kurama
2003-09-15
打赏
举报
回复
那要单独处理了
lzj34
2003-09-15
打赏
举报
回复
把两个数的数据类型都改为Double型吧
viena
2003-09-15
打赏
举报
回复
没有错啊,浮点运算本身就不可能精确,已经精确到小数点后13位了,难道还不能满足你的要求?
kurama
2003-09-15
打赏
举报
回复
用FormatNumber(x - y, 2)就限定了显示格式啊。如果编写一个简单的计算器程序,格式不固定,这样用就不好吧。
cowley
2003-09-15
打赏
举报
回复
这是数据类型的问题,只要把数据类型改正确就不会有这样的问题了!
xuwuyu
2003-09-14
打赏
举报
回复
呵呵,我刚才也试了下,也是有这个问题!
FormatNumber(x - y, 2),试试这个吧,应该没问题了,呵呵
kurama
2003-09-14
打赏
举报
回复
可能不是数据类型的问题,这是在立即窗口中得到的结果;
改了也不行:
Private Sub Form_Activate()
Dim x, y As Double
x = 10
y = 9.2
Print x - y
End Sub
并且只有 10-9.2=.800000000000001
10-9.3=.699999999999999
有问题
foreverforyou
2003-09-14
打赏
举报
回复
把数据类型改为Double型吧
xuwuyu
2003-09-14
打赏
举报
回复
我也遇到过的问题!后来该了数据类型,就对了!
2023年华为认证HCIA-Datacom(理论笔记+实验拓扑+考试)
一、课程大纲2023年华为考试大纲考试分数章目录小节80第1章:网络参考模型1.1OSI网络参考模型介绍1.2OSI网络参考模型各层的作用1.3 OSI与TCP/IP模型的比较1.4 TCP与UDP第2章:华为VRP系统2.1eNSP的安装和使用2.2VRP的介绍2.3VRP的基本配置命令2.4VRP文件系统操作命令270第3章:IP地址3.1网络层协议3.2IP地址介绍3.3IP地址计算3.4VLSM3.5ICMP3.6IP地址配置第4章:IP路由基础4.1路由器的工作原理4.2路由条目优选4.3静态路由4.4缺省路由4.5路由的高级特性第5章:OSPF基础5.1动态路由协议介绍5.2OSPF基本概念5.3OSPF基本原理 5.4OSPF的网络类型280第6章:以太网交换机基础6.1以太网介绍6.2以太网帧介绍6.3交换机基本原理6.4同网段通信全过程第7章:VLAN的原理与配置7.1 VLAN与TRUNK的理论7.2VLAN与TRUNK的实验7.3交换机的接口类型第8章:STP8.1为什么要有STP8.2 STP的原理8.3 STP的配置与BPDU包文8.4RSTP对STP的改进第9章:VLAN章通信9.1VLAN间通信-单臂路由
9.2
VLAN间通信-VLANIF第
10
章:以太网链路聚合
10
.1链路聚合-手工模式
10
.2链路聚合-LACP80第11章:ACL原理与配置11.1ACL的原理11.2基本ACL11.3高级ACL11.4基于时间ACL第12章:AAA的原理与配置12.1AAA的工作原理12.2本地AAA配置第13章:NAT13.1静态NAT13.2动态NAT13.3easy IP13.4NAT server5014章:网络服务与应用14.1FTP14.2telnet14.3DHCP14.4HTTP14.5DNS
10
0第15章:WLAN15.1WLAN的工作流程15.2WLAN无线综合实验30第16章:广域网技术16.1广域网概念16.2PAP认证16.3CHAP认证16.4PPPOE的工作原理16.5PPPOE实验30第17章:网络管理与运维17.1SNMP原理17.2SNMP的配置50第18章:IPV618.1IPV6的地址格式18.2NDP18.3IPV6的配置30第19章:网络编程与自动化19.1python概述1
9.2
python实验二、理论PPT可以提供下载三、实验软件免费送、免费安装四、实验拓扑(带答案),让你的实验无忧五、学完后,如果想考试,可以提供题库六、课后答疑 学习有任务
问题
,可以第一时间与老师取得联系,保证第一时间帮你解答。 七、本书作者亲自授课
AIX系统管理(一)
aix有关01
问题
(一) aix64位编程,一些
问题
请教
编译器 vac 6.0编译参数:cc -G -D__AIX__ -q64 -qcpluscmt -qwarn64 -g -O3 -qarch=pwr5 -qtune=pwr5 -qstrict1.fprintf(logfile," xxx:%s/n",ttyname(0));这样会Segmentation fault(coredump)我已经确定ttyname(0)返回char *指针,dbx调试发现应该是fprintf时调用strlen时出的
问题
如
Oracle安装的一些
问题
收集
在安装过程中出现的一些
问题
的解决办法。值得收藏与学习。比如在安装的时候如果有中文的路径则会出现类似这样的提示:加载数据库时出错:areasQueries Oracle的系统要求 企业版:CPU 最低PENTIUM 200M 推荐 PENTIUMIII 1G以上 内存 最低128M 推荐 512M 硬盘空间 系统盘140M 安装盘4.5G(FAT32)或2.75G(NTFS) 标
AIX常用操作-转载
问题
(一) aix64位编程,一些
问题
请教
编译器 vac 6.0 编译参数:cc -G -D__AIX__ -q64 -qcpluscmt -qwarn64 -g -O3 -qarch=pwr5 -qtune=pwr5 -qstrict 1. fprintf(logfile," xxx:%s\n",ttyname(0)); 这样会Segmentation fault(coredump
软工第3次作业-结对编程
1. 小组成员 20172021
10
031 王枫 20172821
10
255 刘烨 2. 项目github地址 GUI四则运算器github地址 3. PSP时间预估 PSP Personal Software Process Stages 预估耗时(分钟) 实际耗时(分钟) Planning 计划 20 · Estimate · 估计这个任务需要多少时间 20 ...
VB基础类
7,759
社区成员
197,606
社区内容
发帖
与我相关
我的任务
VB基础类
VB 基础类
复制链接
扫一扫
分享
社区描述
VB 基础类
社区管理员
加入社区
获取链接或二维码
近7日
近30日
至今
加载中
查看更多榜单
社区公告
暂无公告
试试用AI创作助手写篇文章吧
+ 用AI写文章