社区
ASP
帖子详情
各位帮帮忙,急急急。。。n5=cdbl(n1*n2+n3+n4) and 65535,当n1*n2+n3+n4太大时报溢出?
yyb2000
2000-07-03 10:33:00
...全文
157
6
打赏
收藏
各位帮帮忙,急急急。。。n5=cdbl(n1*n2+n3+n4) and 65535,当n1*n2+n3+n4太大时报溢出?
复制链接
扫一扫
分享
转发到动态
举报
AI
作业
写回复
配置赞助广告
用AI写文章
6 条
回复
切换为时间正序
请发表友善的回复…
发表回复
打赏红包
Un1
2000-07-04
打赏
举报
回复
使用and时,vb会自动做clng和cbool转换,如果double值大于&h7fffffff或小于&h80000000当然要出错。
yyb2000
2000-07-04
打赏
举报
回复
liyang:
如下不能通过
dim a,b as double
a=65535# * 65535#
b=myand(a,65535)
liyang
2000-07-03
打赏
举报
回复
只好自己写一个
Private Function MyAnd(ByVal varSour As Variant, ByVal varMod As Variant) As Long
Dim I As Long
Dim bytTemp() As Byte
Dim dblRem As Double, dblRem2 As Double
Dim lResult As Long
Dim lReturn As Long
Dim n3 As Double
Dim lModLen As Long
ReDim bytTemp(0)
dblRem = varSour
Do Until dblRem < 2
dblRem2 = Int(dblRem / 2)
bytTemp(UBound(bytTemp)) = dblRem - dblRem2 * 2
ReDim Preserve bytTemp(UBound(bytTemp) + 1)
dblRem = dblRem2
Loop
bytTemp(UBound(bytTemp)) = dblRem
Dim bytMod() As Byte
Dim dblTemp1 As Double, dblTemp As Double
ReDim bytMod(0)
dblTemp = varMod
Do Until dblTemp < 2
dblTemp1 = Int(dblTemp / 2)
bytMod(UBound(bytMod)) = dblTemp - dblTemp1 * 2
ReDim Preserve bytMod(UBound(bytMod) + 1)
dblTemp = dblTemp1
Loop
bytMod(UBound(bytMod)) = dblTemp
lModLen = UBound(bytMod)
For I = 0 To IIf(UBound(bytTemp) > lModLen, lModLen, UBound(bytTemp))
lResult = lResult Or bytTemp(I) * 2 ^ I
Next I
MyAnd = lResult And varMod
End Function
yyb2000
2000-07-03
打赏
举报
回复
我早试过,不行,
n5=cdbl(n1)*cdbl(n2)+cdbl(n3)+cdbl(n4) 时不会报错,一但
n5=(cdbl(n1)*cdbl(n2)+cdbl(n3)+cdbl(n4)) and 65535,wrong?
liyang
2000-07-03
打赏
举报
回复
是这样:cdbl(n1)*cdbl(n2)+cdbl(n3)+cdbl(n4),即把每个变量均转化为不超限制的类型。
liyang
2000-07-03
打赏
举报
回复
你的 n1,n2,n3,n4是何类型。可以n1#*n2#+n3#+n4#,把每一个转化为double
VB 求长方体的表面积
在这个例子中,当用户点击按钮时,程序会读取文本框中的数值,调用`CalculateSurfaceArea`函数计算表面积,并将结果显示在标签`Label1`上。 总结来说,通过VB编程求解长方体的表面积,我们需要理解长方体的几何特性...
VB简单编程题.pdf
radius =
CDbl
(Text1.Text) Text2.Text = radius * radius ' 平方值 Text3.Text = 3.14 * radius * radius ' 圆面积 End Sub ``` 对于“清除”按钮,清除所有文本框的内容: ```vb Private Sub Command2_...
利用vb编程科学计算器的代码
当窗体加载时,初始化文本框并设置一些初始变量值。 ```vbnet Private Sub Form1_Load(ByVal sender As System.Object, ByVal e As System.EventArgs) Handles MyBase.Load TextBox1.Text = 0 LAB2.Text = "" W1...
二元一次方程组vb
b =
CDbl
(txtB.Text) c =
CDbl
(txtC.Text) d =
CDbl
(txtD.Text) e =
CDbl
(txtE.Text) f =
CDbl
(txtF.Text) ' 计算行列式 Dim det As Double = a * d - b * c ' 检查方程组类型 If det <> 0 Then ' 求解 Dim x As...
多媒体班 VB_NET 练习题
If a + b > c AndAlso a + c > b AndAlso b + c > a Then Dim s As Double = (a + b + c) / 2 Dim area As Double = Math.Sqrt(s * (s - a) * (s - b) * (s - c)) lblResult.Text = "三角形面积为: " & area....
ASP
28,409
社区成员
356,971
社区内容
发帖
与我相关
我的任务
ASP
ASP即Active Server Pages,是Microsoft公司开发的服务器端脚本环境。
复制链接
扫一扫
分享
社区描述
ASP即Active Server Pages,是Microsoft公司开发的服务器端脚本环境。
社区管理员
加入社区
获取链接或二维码
近7日
近30日
至今
加载中
查看更多榜单
社区公告
暂无公告
试试用AI创作助手写篇文章吧
+ 用AI写文章