流型大队长 苏州大学智能结构与系统研究所 工业仪表开发测试  2014年03月20日
matlab数组元素相乘,精度丢失,痛苦!!
请看完这个小程序吧!!

clc;
clear all;
sampledotnum = 3; %采样点数目
usample = zeros(1,sampledotnum);

i = 1;
for t = 0 : (0.02/sampledotnum) : 0.02
usample(1,i) = 220*(2^0.5)*cos(100*pi*t); %采样值
i = i + 1;
end

tmp0 = usample(1,1)^2

tmp1 = 311.1270^2

以上在m文件中。

结果是
tmp0 =

96800


tmp1 =

9.680001012900000e+004

为什么tmp0 的精度丢失了!!!
tmp1就没有!

什么vpa format digits 都试过了呢,没什么效果。
感觉这是数组精度的问题,哪位大侠指点一下呢!
...全文
37 点赞 收藏 2
写回复
2 条回复

还没有回复,快来抢沙发~

发动态
发帖子
高性能计算
创建于2008-07-01

1868

社区成员

1018

社区内容

高性能计算
社区公告
暂无公告