社区
VB基础类
帖子详情
有点怪!
lzliming
2000-05-30 04:27:00
在VB下,
dim hhh as long
hhh = 210 * 256
运行时,报实时错误‘6’
将其改为
hhh = 210 * 256 ^ 1
运行通过。
????
...全文
91
3
打赏
收藏
有点怪!
在VB下, dim hhh as long hhh = 210 * 256 运行时,报实时错误‘6’ 将其改为 hhh = 210 * 256 ^ 1 运行通过。 ????
复制链接
扫一扫
分享
转发到动态
举报
写回复
配置赞助广告
用AI写文章
3 条
回复
切换为时间正序
请发表友善的回复…
发表回复
打赏红包
江王
2000-05-30
打赏
举报
回复
这可算是VB的一个Bug, 它可能是将210看作一integer类型,256也看作一个integer类型,两者乘为53760, 而integer类型范围为-32768 至 32767。编译器将Integer*Integer类型的结果用Integer的中间变量来存储,自然就溢出了。
但这种情况可以避免,如:hhh= 210& * 256&
Asima
2000-05-30
打赏
举报
回复
对了,我应该说清楚的CLng()是强制转换为Long类型的函数
所以hhh=211*CLng(256)相当于Integer类型和Long类型相乘
结果也是Long类型,所以没有溢出
Asima
2000-05-30
打赏
举报
回复
*运算的结果的数据类型是参与运算的数据类型中精度最高的数据类型
因为211和256都是Integer类型
所以211*256结果仍是Integer类型
但是结果是53760,而Integer类型的范围是-32768到+32767
所以溢出了
你用211*256^1时,256^1返回的是Double
Byte、 Integer、Long、Single、Currency、Double 和 Decimal的精度依次增加
所以Double的精度高,211*256^1的结果的数据类型是Double
Double 数据类型的范围是
-1.79769313486232E308 到 -4.94065645841247E-324,
和4.94065645841247E-324 到 1.79769313486232E308。
所以结果不会溢出
其实你只要用CLng()就可以解决问题
hhh = 210 * CLng(256)就可以
血腥大地-第三季(
怪
物模型制作)
介绍游戏中NPC的基本原理,并实现NCP类,支持NCP的随机行走,转向优化.完成各种
怪
物模型的制作(死亡动画,行走动画)1.僵尸人的制作2.蜘蛛1类的制作3.蜘蛛2类的制作4.蜘蛛Boss类的制作5.蜥蜴类的制作6.蜘蛛穴的制作
51CTO技术博客开通了
51CTO技术博客开通了,感觉
有点
怪
!慢慢适应吧! 转载于:https://blog.51cto.com/839498/169318
c#WinForm中通过鼠标点DataGrid事件获取DataGrid Cell数据
有好一段时间不做.net的WinForm 程序了,.net 在WinForm中的DataGrid控件用起来,总觉得和VC++,VB6中的DataGrid命名区别太大!而且用法
有点
怪
异! 我想实现的一个功能是,用户鼠标点DataGrid中的一行数据的时候,系统默认选中该数据,然后可以进行删除操作。程序代码如下: private void dataGridScor
刚工作的小感慨!!
今天又差点迟到,打车用了29块钱失败! 工作已经快三个月了,脑袋
有点
晕!!感觉
有点
怪
,和别人说话总是表达不清自己的意思,晕!头,让分析项目需求,还要写需求文档开发文档,真的很晕!看了几天UML就更晕了!!用例图!类图!时序图!仔细一想都不知道以前的项目是怎么做出来的!角色权限的划分,数据的批量导入导出,备份。。。!!!无语了!! 大家都在说工作
VB基础类
7,763
社区成员
197,605
社区内容
发帖
与我相关
我的任务
VB基础类
VB 基础类
复制链接
扫一扫
分享
社区描述
VB 基础类
社区管理员
加入社区
获取链接或二维码
近7日
近30日
至今
加载中
查看更多榜单
社区公告
暂无公告
试试用AI创作助手写篇文章吧
+ 用AI写文章