matlab 精度问题

chen_999876 2009-12-30 08:26:14
最近编写程序,要求随机生成两个小于2^32的数x,y;然后用x*y去摩2^32,判断结果是否小于100000.我用的判断语句为
if mod(x*y,2^32)<100000
isright=TRUE;
else
isright=FALSE;
end

结果又一次生成的两个数分别为:
x=3537755020;
y=3875047216;
matlab计算出的结果为0,结论isright=TRUE;
但我用计算器计算得出的结果为4294966848,结论isright=FALSE;
我应该怎样避免matlab出现的精度问题呢?
...全文
125 2 打赏 收藏 转发到动态 举报
写回复
用AI写文章
2 条回复
切换为时间正序
请发表友善的回复…
发表回复
xiyuan126 2012-04-15
  • 打赏
  • 举报
回复
我在乎,但我不会啊
chen_999876 2010-01-18
  • 打赏
  • 举报
回复
为什么没人回答?
没有人在乎过matlb的精度问题吗?

2,408

社区成员

发帖
与我相关
我的任务
社区描述
高性能计算
社区管理员
  • 高性能计算社区
加入社区
  • 近7日
  • 近30日
  • 至今
社区公告
暂无公告

试试用AI创作助手写篇文章吧