社区
VB基础类
帖子详情
请教一个简单问题:10-9.2=?
kurama
2003-09-14 10:26:14
这是偶然发现的,不知为什么
10-9.1=.1
10-9.2=.800000000000001
10-9.3=.699999999999999
10-9.4=.6
10-9.5=.5
...
...全文
82
13
打赏
收藏
请教一个简单问题:10-9.2=?
这是偶然发现的,不知为什么 10-9.1=.1 10-9.2=.800000000000001 10-9.3=.699999999999999 10-9.4=.6 10-9.5=.5 ...
复制链接
扫一扫
分享
转发到动态
举报
写回复
配置赞助广告
用AI写文章
13 条
回复
切换为时间正序
请发表友善的回复…
发表回复
打赏红包
kurama
2003-09-15
打赏
举报
回复
明白了,谢了哈
viena
2003-09-15
打赏
举报
回复
浮点数表数范围大,但不精确;定点数精确,但表数范围小
viena
2003-09-15
打赏
举报
回复
如果你需要绝对精确,不涉及除法、开方等运算,那么可以用先变成整数(乘以10的倍数)进行运算,算完后再加小数点。
kurama
2003-09-15
打赏
举报
回复
两个数的数据类型都改为Double型也不行
kurama
2003-09-15
打赏
举报
回复
那要单独处理了
lzj34
2003-09-15
打赏
举报
回复
把两个数的数据类型都改为Double型吧
viena
2003-09-15
打赏
举报
回复
没有错啊,浮点运算本身就不可能精确,已经精确到小数点后13位了,难道还不能满足你的要求?
kurama
2003-09-15
打赏
举报
回复
用FormatNumber(x - y, 2)就限定了显示格式啊。如果编写一个简单的计算器程序,格式不固定,这样用就不好吧。
cowley
2003-09-15
打赏
举报
回复
这是数据类型的问题,只要把数据类型改正确就不会有这样的问题了!
xuwuyu
2003-09-14
打赏
举报
回复
呵呵,我刚才也试了下,也是有这个问题!
FormatNumber(x - y, 2),试试这个吧,应该没问题了,呵呵
kurama
2003-09-14
打赏
举报
回复
可能不是数据类型的问题,这是在立即窗口中得到的结果;
改了也不行:
Private Sub Form_Activate()
Dim x, y As Double
x = 10
y = 9.2
Print x - y
End Sub
并且只有 10-9.2=.800000000000001
10-9.3=.699999999999999
有问题
foreverforyou
2003-09-14
打赏
举报
回复
把数据类型改为Double型吧
xuwuyu
2003-09-14
打赏
举报
回复
我也遇到过的问题!后来该了数据类型,就对了!
2023年华为认证HCIA-Datacom(理论笔记+实验拓扑+考试)
9.1VLAN间通信-单臂路由
9.2
VLAN间通信-VLANIF 第
10
章:以太网链路聚合
10
.1链路聚合-手工模式
10
.2链路聚合-LACP 80 第11章:ACL原理与配置 11.1ACL的原理 11.2基本ACL 11.3高级ACL 11.4基于时间ACL 第12章:AAA的...
AIX系统管理(一)
aix有关01
问题
(一) aix64位编程,一些
问题
请教
编译器 vac 6.0编译参数:cc -G -D__AIX__ -q64 -qcpluscmt -qwarn64 -g -O3 -qarch=pwr5 -qtune=pwr5 -qstrict1.fprintf(logfile," xxx:%s/n",ttyname(0));这样会Segmentation fault(coredump)我已经确定ttyname(0)返回char *指针,dbx调试发现应该是fprintf时调用strlen时出的
问题
如
Oracle安装的一些
问题
收集
在安装过程中出现的一些
问题
的解决办法。值得收藏与学习。比如在安装的时候如果有中文的路径则会出现类似这样的提示:加载数据库时出错:areasQueries Oracle的系统要求 企业版:CPU 最低PENTIUM 200M 推荐 PENTIUMIII 1G以上 内存 最低128M 推荐 512M 硬盘空间 系统盘140M 安装盘4.5G(FAT32)或2.75G(NTFS) 标
AIX常用操作-转载
问题
(一) aix64位编程,一些
问题
请教
编译器 vac 6.0 编译参数:cc -G -D__AIX__ -q64 -qcpluscmt -qwarn64 -g -O3 -qarch=pwr5 -qtune=pwr5 -qstrict 1. fprintf(logfile," xxx:%s\n",ttyname(0)); 这样会Segmentation fault(coredump
软工第3次作业-结对编程
1. 小组成员 20172021
10
031 王枫 20172821
10
255 刘烨 2. 项目github地址 GUI四则运算器github地址 3. PSP时间预估 PSP Personal Software Process Stages 预估耗时(分钟) 实际耗时(分钟) Planning 计划 20 · Estimate · 估计这个任务需要多少时间 20 ...
VB基础类
7,763
社区成员
197,609
社区内容
发帖
与我相关
我的任务
VB基础类
VB 基础类
复制链接
扫一扫
分享
社区描述
VB 基础类
社区管理员
加入社区
获取链接或二维码
近7日
近30日
至今
加载中
查看更多榜单
社区公告
暂无公告
试试用AI创作助手写篇文章吧
+ 用AI写文章