社区
VB基础类
帖子详情
有点怪!
lzliming
2000-05-30 04:27:00
在VB下,
dim hhh as long
hhh = 210 * 256
运行时,报实时错误‘6’
将其改为
hhh = 210 * 256 ^ 1
运行通过。
????
...全文
79
3
打赏
收藏
有点怪!
在VB下, dim hhh as long hhh = 210 * 256 运行时,报实时错误‘6’ 将其改为 hhh = 210 * 256 ^ 1 运行通过。 ????
复制链接
扫一扫
分享
转发到动态
举报
写回复
配置赞助广告
用AI写文章
3 条
回复
切换为时间正序
请发表友善的回复…
发表回复
打赏红包
江王
2000-05-30
打赏
举报
回复
这可算是VB的一个Bug, 它可能是将210看作一integer类型,256也看作一个integer类型,两者乘为53760, 而integer类型范围为-32768 至 32767。编译器将Integer*Integer类型的结果用Integer的中间变量来存储,自然就溢出了。
但这种情况可以避免,如:hhh= 210& * 256&
Asima
2000-05-30
打赏
举报
回复
对了,我应该说清楚的CLng()是强制转换为Long类型的函数
所以hhh=211*CLng(256)相当于Integer类型和Long类型相乘
结果也是Long类型,所以没有溢出
Asima
2000-05-30
打赏
举报
回复
*运算的结果的数据类型是参与运算的数据类型中精度最高的数据类型
因为211和256都是Integer类型
所以211*256结果仍是Integer类型
但是结果是53760,而Integer类型的范围是-32768到+32767
所以溢出了
你用211*256^1时,256^1返回的是Double
Byte、 Integer、Long、Single、Currency、Double 和 Decimal的精度依次增加
所以Double的精度高,211*256^1的结果的数据类型是Double
Double 数据类型的范围是
-1.79769313486232E308 到 -4.94065645841247E-324,
和4.94065645841247E-324 到 1.79769313486232E308。
所以结果不会溢出
其实你只要用CLng()就可以解决问题
hhh = 210 * CLng(256)就可以
51CTO技术博客开通了
51CTO技术博客开通了,感觉
有点
怪
!慢慢适应吧! 转载于:https://blog.51cto.com/839498/169318
就你这个求婚态度,能嫁给你才
怪
!
1兄弟!哪有求着婚还走神的?!▼ 2喝奶茶专用口罩!▼ 3 把广东茶楼的菜都点一遍是什么体验?▼ 4你觉不觉得这个门锁
有点
像托马斯的小火车▼ 5手里的塑料...
c#WinForm中通过鼠标点DataGrid事件获取DataGrid Cell数据
有好一段时间不做.net的WinForm 程序了,.net 在WinForm中的DataGrid控件用起来,总觉得和VC++,VB6中的DataGrid命名区别太大!而且用法
有点
怪
异! 我想实现的一个功能是,用户鼠标点DataGrid中的一行数据的时候,系统默认选中该数据,然后可以进行删除操作。程序代码如下: private void dataGridScor
刚工作的小感慨!!
今天又差点迟到,打车用了29块钱失败! 工作已经快三个月了,脑袋
有点
晕!!感觉
有点
怪
,和别人说话总是表达不清自己的意思,晕!头,让分析项目需求,还要写需求文档开发文档,真的很晕!看了几天UML就更晕了!!用例图!类图!时序图!仔细一想都不知道以前的项目是怎么做出来的!角色权限的划分,数据的批量导入导出,备份。。。!!!无语了!! 大家都在说工作
我的世界服务器增加刷
怪
率,我的世界:最简易刷
怪
空间,别再暴殄天物了!
嗨喽!大家好欢迎大家来到游戏大者,本期呢小编来教大家来制作一个最简易刷
怪
空间,很多玩家在生存冒险中肯定遇到过非常多的刷
怪
笼,但是很多玩家都是把它破坏掉来获得经验,其实是一种暴殄天物的做法,接下来小编就教大家怎么把刷
怪
笼改造成一个刷经验刷物资的空间,希望大家能够喜欢。小编使用的创造模式,因为刷
怪
笼毕竟还是稀少小编就没有在生存中去寻找,玩家在改造的时候要注意,以刷
怪
笼为中心清理出一个9x9的空间出来,...
VB基础类
7,759
社区成员
197,606
社区内容
发帖
与我相关
我的任务
VB基础类
VB 基础类
复制链接
扫一扫
分享
社区描述
VB 基础类
社区管理员
加入社区
获取链接或二维码
近7日
近30日
至今
加载中
查看更多榜单
社区公告
暂无公告
试试用AI创作助手写篇文章吧
+ 用AI写文章