matlab数组元素相乘,精度丢失,痛苦!!

流型 2014-03-20 11:11:22
请看完这个小程序吧!!

clc;
clear all;
sampledotnum = 3; %采样点数目
usample = zeros(1,sampledotnum);

i = 1;
for t = 0 : (0.02/sampledotnum) : 0.02
usample(1,i) = 220*(2^0.5)*cos(100*pi*t); %采样值
i = i + 1;
end

tmp0 = usample(1,1)^2

tmp1 = 311.1270^2

以上在m文件中。

结果是
tmp0 =

96800


tmp1 =

9.680001012900000e+004

为什么tmp0 的精度丢失了!!!
tmp1就没有!

什么vpa format digits 都试过了呢,没什么效果。
感觉这是数组精度的问题,哪位大侠指点一下呢!
...全文
98 2 打赏 收藏 转发到动态 举报
写回复
用AI写文章
2 条回复
切换为时间正序
请发表友善的回复…
发表回复
老而不死 2014-12-11
  • 打赏
  • 举报
回复
你可以在CMD里做啊,直接看每步的结果啊
老而不死 2014-12-11
  • 打赏
  • 举报
回复
你可以在CMD里做啊,直接看每步的结果啊

2,408

社区成员

发帖
与我相关
我的任务
社区描述
高性能计算
社区管理员
  • 高性能计算社区
加入社区
  • 近7日
  • 近30日
  • 至今
社区公告
暂无公告

试试用AI创作助手写篇文章吧