7489
社区成员
- 全部
为什么3*4.8-14.4不等于0???
请教各位DX:
为什么3*4.8-14.4<>0
Private Sub Form_Load()
Text1 = 3 * 4.8 - 14.4
End Sub
text1竟然等于"-1.77635683940025E-15"
谢谢!
为什么3*4.8-14.4<>0
Private Sub Form_Load()
Text1 = 3 * 4.8 - 14.4
End Sub
text1竟然等于"-1.77635683940025E-15"
谢谢!
...全文
当前发帖距今超过3年，不再开放新的回复
发表回复
winexe 2008-02-28
用整数计算就没有问题了
具体办法：所有数乘100，然后计算，最后结果除 100
我是菜鸟，欢迎加入QQ群56153339 交流怎么赚美元
只收菜鸟，不收大牛
具体办法：所有数乘100，然后计算，最后结果除 100
我是菜鸟，欢迎加入QQ群56153339 交流怎么赚美元
只收菜鸟，不收大牛
清晨曦月 2008-02-28
恩 。。可以“通分”解决
of123 2008-02-28
实际上是十进制小数用二进制浮点小数表示的误差问题，与科学计数法无关。科学计数法可以表示 0。
试试 3*4.25-12.75，因为这样的小数可以用二进制精确表示，没有误差。
再试试 4*4.8-19.2，当乘数是 2 的倍数时，误差消失了。
试试 3*4.25-12.75，因为这样的小数可以用二进制精确表示，没有误差。
再试试 4*4.8-19.2，当乘数是 2 的倍数时，误差消失了。
wangwei1979 2008-02-28
1楼正解
东方之珠 2008-02-27
科学计数法没有绝对等于0的数，近似于0就可以了。比如：abs(Text1.text)<1e-5，就认为是0。
急 3*4.8-14.4=-1.77635683940025E-15 请教为什么: Private Sub Form_Load() Text1 = 3 * 4.8 - 14.4 End Sub 等于"-1.77635683940025E-15" 谢谢!
你必须知道的495个C语言问题 1.2 为什么不精确定义标准类型的大小？ 1.3 因为C语言没有精确定义类型的大小，所以我一般都用typedef定义int16和int32。然后根据实际的机器环境把它们定义为int、short、long等类型。这样看来，所有的问题都解决...
Linux实用教程(第三版) 第一章 Linux系统初步了解 本章内容 1.1 Linux系统简介 1.2 Linux系统的特点和组成 ...1.1.1 什么是Linux 1.1.2 Linux系统的产生 1.1.3 Linux系统应用领域 1.1.1什么是Linux &...
我为什么要花3年熬几百个夜写一本推荐系统的专著？ 作者 |gongyouliu编辑 | auroral-L大家好，我是强哥。一个热爱暴走、读书、写作的人！我的新书「构建企业级推荐系统：算法、工程实现与案例分析」终于出版啦！这是一本大部...
如何入门Go语言？这个开源项目赶紧收藏！ 昨天小编给大家分享了一款基于Go语言的对象存储服务MinIO（自己搭建个对象存储服务难不难？嗯嗯就那么一丢丢的意思不过呢这也难怪，国内似乎还没有特别出色的适合初学者的Go语言教程书籍，而国...
有你不知道的吗？Python标准库大集合，你应该详细学习！ Python之所以使用简单，原因之一就是标准库功能非常强大，这些标准库在安装python的时候就已经附带了，不需要额外的安装，很多功能不需要程序员从头编写，直接调用即可，但是如果想要进阶学习python，了解标准库很有...
《你必须知道的495个C语言问题》 1.24 我在一个文件中定义了一个extern数组，然后在另一个文件中使用，为什么sizeof取不到数组的大小？ 13 声明问题 14 1.25 函数只定义了一次，调用了一次，但编译器提示非法重声明了。 14 *1.26 main的正确...
matlab中如何给图窗设置标题,如何更改MATLAB绘图graphics的窗口标题？ 如何更改MATLAB绘图graphics的窗口标题？我用plot()函数创build了一个...我正在处理的MATLAB m文件：hold on x = [0; 0.2; 0.4; 0.6; 0.8; 1; 1.2; 1.4; 1.6; 1.8; 2; 2.2; 2.4; 2.6; 2.8; 3; 3.2; 3.4; 3.6; 3.8; ...
ubuntu安装g++ root@ubuntu-PowerEdge-R720:/opt/netronome/samples# apt-get install g++Reading package lists... DoneBuilding dependency treeReading state information... DoneThe following extra packages will be install
❤️ 运维工程师必会480个linux命令，还不收藏？ ❤️ 480个linux命令，指令多媒体语音实战视频讲解分为3篇，一共讲解了480个相关的指令，并给出了相应的示例。第一篇中介绍了175个linux基础操作指令，包括文件、目录、shell、打印、工具等；第二篇中介绍了206个linux...
【我的Android进阶之旅】解决Center OS 64位系统编译Android APP报错error=2和finished with non-zero exit... 一、错误描述1、问题 java.io.IOException: error=2, 没有那个文件或目录 今天在刚重新搭建好的64位的Center OS上安装好了Android SDK，Jenkins，Git等一系列用于持续集成的环境之后，准备编译下项目试一试，然后...
MySQL性能测试（二）——Ubuntu 14.4.02, MySQL 5.6.25, sysbench 4.8 1. 系统安装好后，需要有SSH远程登录及通过WinSCP拷贝文件，因此需要先安装SSH (1) 安装OpenSSH xio@ubuntu:~$ sudo apt-get install openssh-server (2) 修改配置文件允许root远程登录 root@ubuntu:/home/xio# vi /...
Python编程入门经典 1.3.3 为什么有3种类型的引号 7 1.3.4 使用print()函数 7 1.3.5 理解不同的引号 8 1.4 串联两个字符串 10 1.5 用不同的方法串联字符串 11 1.6 本章小结 12 1.7 习题 13 第2章 数值与运算符 15 2.1 不同类型的数值 15...
你必须知道的495个C语言问题（高清版） 1.2 为什么不精确定义标准类型的大小？ 2 1.3 因为C语言没有精确定义类型的大小，所以我一般都用typedef定义int16和int32。然后根据实际的机器环境把它们定义为int、short、long等类型。这样看来，所有的问题都...
图像视频滤镜算法解析--YUV2RGB 图像视频滤镜算法--YUV2RGB [YUV概念] YUV是被欧洲电视系统所采用的一种颜色编码方法，是PAL和SECAM模拟彩色电视机制式采用的颜色空间，它可以方便的把亮度信号Y和色度信号UV进行分离，应用广泛。...
千亿百度，在讲一个什么新故事？ 深燃（shenrancaijing）原创作者 | 金玙璠编辑 | 魏佳北京时间2月18日凌晨，百度发布了2020年第四季度及全年财报。百度2020年第四季度营收达303亿元，同比增长4....
python cookbook(第3版) 4.8 跳过可迭代对象的开始部分 4.9 排列组合的迭代 4.10 序列上索引值迭代 4.11 同时迭代多个序列 4.12 不同集合上元素的迭代 4.13 创建数据处理管道 4.14 展开嵌套的序列 4.15 顺序迭代合并后的排序迭代...
iPhone 3开发基础教程(针对iPhone SDK 3新特性全面改版)--详细书签版 1.4.7 不支持垃圾收集 6 1.4.8 新功能 6 1.4.9 与众不同的方法 6 1.5 本书内容 6 1.6 本次更新的内容 7 1.7 准备开始吧 7 第2章 创建基本项目 8 2.1 在Xcode中设置项目 8 2.2 Interface Builder简介 13 ...
jquery-svg-pan-zoom实现svg拖拽放大 原理：控制svg的viewbox属性 viewbox是SVG图像的一个属性，它定义了SVG的可见区域，由4个数字定义：横坐标X、纵坐标Y、宽度Width、高度Height。这些数字一起指定可见区域。这个插件通过操纵这四个数字来工...
安装vmware和ubuntu13.04,ubuntu14.04.6 LTS,qt4.8 突然黑屏不动了 解决办法: 解决办法1: (不靠谱) 打开Windows命令提示符CMD，用管理员身份运行输入 netsh winsock reset，回车enter。重启计算机，再次打开虚拟 机，问题解决。 解决办法2:(不靠谱) 1. 虚拟机...
matlab中编辑窗口在哪里,如何改变MATLAB绘制图的窗口标题？ 我使用plot()函数创建了一个...我的MATLAB m文件，我工作：hold onx = [0; 0.2; 0.4; 0.6; 0.8; 1; 1.2; 1.4; 1.6; 1.8; 2; 2.2; 2.4; 2.6; 2.8; 3; 3.2; 3.4; 3.6; 3.8; 4; 4.2; 4.4; 4.6; 4.8; 5; 5.2; 5.4; 5...
AG7210_LQFP64_3TO1_HDMI_DEMO_V1P6P3.pdf 支持的最大TMDS比特率为6Gbps，最大总比特率为吞吐量为14.4 Gbps（4.8 Gbps/通道）。 A、 高清多媒体接口（HDMI） AG7210系列支持HDMI视频流，符合HDMI 2.0规范。HDMI协议允许每个颜色通道在源和接收器之间传输...
基因数据处理86之idea中编译安装adam-0.14.0成功 1.安装时需要修改maven到较高版本，并且需要就内存per mem设置较大2.记录：D:\1win7\java\jdk\bin\java -Dmaven.multiModuleProjectDirectory=D:\all\idea\adam-adam-parent-0.14.0 -Xmx2g -XX:MaxPermSize=2024M -...
《Neo4j 3.x入门经典》已正式出版，各大网店均有售！ 《Neo4j 3.x入门经典》已正式出版，各大网店均有售！ 大家好，由我参与翻译（第二译者）的《Neo4j 3.x入门经典》已拿到批号正式出版，在各大网店均有售！ 京东链接： https://item.jd.com/41497370796.html ...
《CWNA官方学习指南(第3版)：认证无线网络管理员PW0-105》 《CWNA官方学习指南(第3版)：认证无线网络管理员PW0-105》 基本信息 原书名：CWNA: Certified Wireless Network Administrator Official Study Guide: Exam PW0-105, Third Edition 作者： (美)David D. Coleman...
Maven权威指南 很精典的学习教程,比ＡＮＴ更好用 4.8. 运行Simple Weather项目 4.8.1. Maven Exec 插件 4.8.2. 浏览你的项目依赖 4.9. 编写单元测试 4.10. 添加测试范围依赖 4.11. 添加单元测试资源 4.12. 执行单元测试 4.12.1. 忽略测试失败 4.12.2. ...
