16,472
社区成员
发帖
与我相关
我的任务
分享请发表友善的回复…
发表回复
sayto 2001-10-29
- 打赏
- 举报
这是教科书，怎么会错，而且偶们老湿也是这么讲的，书上说：“
有时候，我们会面临下面计算结果不准确的问题：
long m = 234*456/6;
即发现m为-4061,而不是17745.原因是语句进行int型数的乘法运算，结果仍以int型数保留起来：235x456 = 106704 = 2x65535-24368，取模之后得到-243687。该数参加整除运算：-24368/6得-4061（取整）。由于中间的结果被截断，所以，最后的结果是错的。“
这是书上的原话，但是我试过，结果也不是-4061，是17784啊?
有时候，我们会面临下面计算结果不准确的问题：
long m = 234*456/6;
即发现m为-4061,而不是17745.原因是语句进行int型数的乘法运算，结果仍以int型数保留起来：235x456 = 106704 = 2x65535-24368，取模之后得到-243687。该数参加整除运算：-24368/6得-4061（取整）。由于中间的结果被截断，所以，最后的结果是错的。“
这是书上的原话，但是我试过，结果也不是-4061，是17784啊?
lxp981818 2001-10-29
- 打赏
- 举报
一定是你抄错或书错！
sayto 2001-10-29
- 打赏
- 举报
那为什么书上说:234*456 = 106704 = 2*65536-24368为什么取模后得是-24368
a813 2001-10-29
- 打赏
- 举报
取模就是取余数，如10%3=1,9%3=0
max为最大数,max(5,6)结果为6
max为最大数,max(5,6)结果为6
sayto 2001-10-29
- 打赏
- 举报
还想一个max(5,6)，max是什么函数
code_tin 2001-10-29
- 打赏
- 举报
时代不同啦
ineedyou 2001-10-29
- 打赏
- 举报
这个问题是由于字长不同造成的，另外还有符号位的转换问题，在做了234*456后，低16位保留，其余的高位被截掉了，第16 位的值为1，由于定义的不是unsigned 所以编译器将之视为符号位，这样的到了一个负数，在进行=/16时，编译器先将刚才得到负数转换long型，就将16位的1移到了第32位（现在的int 和long的长度一样），还是为符号位，于是结果就为：-（24368/6）
蒋晟 2001-10-29
- 打赏
- 举报
书太旧了
a813 2001-10-29
- 打赏
- 举报
short s=234*456;
long m = s/6;
这样是书上的结果。
windows int 为32bit,书上的int 为16 bit.
long m = s/6;
这样是书上的结果。
windows int 为32bit,书上的int 为16 bit.
