社区
VB基础类
帖子详情
Double型相减的问题
lywei123
2005-03-03 09:05:09
Private Sub Command2_Click()
Dim a As Double
Dim LdNum1 As Double
Dim LdNum2 As Double
LdNum1 = 11111111.1
LdNum2 = 11111111
a = LdNum1 - LdNum2
End Sub
请问怎么才能让a = 0.1 呢?如果a可能有4位以上的小数时呢?
...全文
186
7
打赏
收藏
Double型相减的问题
Private Sub Command2_Click() Dim a As Double Dim LdNum1 As Double Dim LdNum2 As Double LdNum1 = 11111111.1 LdNum2 = 11111111 a = LdNum1 - LdNum2 End Sub 请问怎么才能让a = 0.1 呢?如果a可能有4位以上的小数时呢?
复制链接
扫一扫
分享
转发到动态
举报
AI
作业
写回复
配置赞助广告
用AI写文章
7 条
回复
切换为时间正序
请发表友善的回复…
发表回复
打赏红包
viena
2005-03-04
打赏
举报
回复
用Currency最多只能有4位小数,假设有6位小数的话,可以把这个数看作是实际值的100倍
viena
2005-03-04
打赏
举报
回复
要使运算精确,最好用定点类型
可以用Currency,64位定点数,是精确的,但最多只能有4位小数
viena
2005-03-04
打赏
举报
回复
二存储位数是有限的,要舍去后面部分,必然会产生结果误差~
viena
2005-03-04
打赏
举报
回复
计算机的数是二进制存储的
十进制有限小数,转为二进制可能就是无限小数
viena
2005-03-04
打赏
举报
回复
浮点运算不精确,除非小数部分是2的N次方分之一的和
xmuyyd
2005-03-04
打赏
举报
回复
Private Sub Command2_Click()
Dim a As Double
Dim LdNum1 As Double
Dim LdNum2 As Double
LdNum1 = 11111111.1
LdNum2 = 11111111
a = format((LdNum1 - LdNum2),"0.0")
End Sub
ZWB_ZYN
2005-03-03
打赏
举报
回复
round函数
Private Sub Command2_Click()
Dim a As Double
Dim LdNum1 As Double
Dim LdNum2 As Double
LdNum1 = 11111111.1
LdNum2 = 11111111
a = round((LdNum1 - LdNum2),1)
End Sub
java .定义一个复数类 complex ,它的内部具有两个实例变量:realPart和imagPart,分别代表复数的实部和虚
public Complex(
double
real,
double
imag) { this.realPart = real; this.imagPart = imag; } // 获取实部的方法 public
double
getRealPart() { return realPart; } // 获取虚部的方法 public
double
...
这是1.定义一个复数类 complex ,它的内部具有两个实例变量:realPart和imagPart,分别代表复数的实部和虚
这是1.定义一个复数类 complex ,它的内部具有两个实例变量:realPart和imagPart,分别代表复数的实部和虚 ...复数减运算的原则是:复数的实部和虚部分别
相减
。 (3)输出运算结果,判断是否正确。
如何使用java来实现加减乘除运算.pdf
注意,在这里我们使用 `
double
`
型
返回结果,因为乘法可能会产生小数结果。 四、除法运算 实现除法运算可以通过定义一个方法,接受两个参数,并将其相除后返回结果。下面是一个简单的示例: ```java public class ...
实用的矩阵计算类支持矩阵求逆
可以提供不同的构造函数,如接受整
型
或浮点
型
数组初始化,或者通过行列数动态创建空矩阵。 ```csharp public class Matrix { private
double
[,] elements; public Matrix(int rows, int cols) { elements = ...
MATLAB对图片进行相乘、减法、平移.pdf
此外,将二值图像`I2`转换为双精度浮点
型
(`im2
double
`)以便于进一步处理。 这些基本的图像处理操作在MATLAB中非常直观,且具有很高的灵活性,允许用户进行各种图像分析和变换。通过理解这些基本概念,可以扩展到...
VB基础类
7,785
社区成员
197,585
社区内容
发帖
与我相关
我的任务
VB基础类
VB 基础类
复制链接
扫一扫
分享
社区描述
VB 基础类
社区管理员
加入社区
获取链接或二维码
近7日
近30日
至今
加载中
查看更多榜单
社区公告
暂无公告
试试用AI创作助手写篇文章吧
+ 用AI写文章