溢出问题

zhougy1984 2007-12-05 04:11:20
为什么&H16777215 and &H42781900080会溢出呢
加了#还是会溢出
...全文
75 7 打赏 收藏 转发到动态 举报
写回复
用AI写文章
7 条回复
切换为时间正序
请发表友善的回复…
发表回复
Tiger_Zhao 2007-12-05
  • 打赏
  • 举报
回复
将4278190080换成-16777216或&HFF000000。
VB中的Long是有符号整数,所以无符号整数要根据16进制转化成相应的有符号整数或直接表示为16进制。
zhougy1984 2007-12-05
  • 打赏
  • 举报
回复
其实我就是想把长整形1677725二进制的高8位取出来,
但是和&HFF 00 00 00与的时候就溢出了
前面说没有意义是啥意思,还有屏蔽掉有啥用?
zhougy1984 2007-12-05
  • 打赏
  • 举报
回复
我赋了long型,double型都不行,
在数字后面加数字类型说明符也还是溢出
不知道是什么原因
哪位专家给小弟解惑
感激不尽
东方之珠 2007-12-05
  • 打赏
  • 举报
回复
我猜你是要进行位操作,屏蔽某些位吧。不然,两个长整数逻辑操作是没什么意义的。
东方之珠 2007-12-05
  • 打赏
  • 举报
回复
不能直接写成:16777215 and 4278190080,要在变量中进行,因为数字太大,必须是长整型。
zhougy1984 2007-12-05
  • 打赏
  • 举报
回复
sorry,前面写错了
应该是两个十进制的相与
16777215 and 4278190080
是不是vb的and本身有什么限制?
东方之珠 2007-12-05
  • 打赏
  • 举报
回复
VB6 Code:

dim A as long,B as long
dim C as boolean
A=&H16777215 : B= &H42781900080
C=A and B
debug.print "A and B =" & C

7,763

社区成员

发帖
与我相关
我的任务
社区描述
VB 基础类
社区管理员
  • VB基础类社区
加入社区
  • 近7日
  • 近30日
  • 至今
社区公告
暂无公告

试试用AI创作助手写篇文章吧