计算规模增大，计算精度降低很多

[huazhongwyn]

我现在做一个算法，中间有很多的计算步骤，分成很多内核分别做这些步骤
在求解规模在100*100的时候，最大绝对误差能在1e-6以下，
但如果提高求解规模，如500*500，最大绝对误差数量级就成了1e-3，
到了700*700， 更大了，1e-2

我的数据都比较小，所以只要求看绝对误差
请问这个问题除了换成1.3以上的卡用double算，还有没有其他解决办法呢？

[zhuxueling]

你应该分析误差出现的原因。
比如sin函数会出现误差，但仅仅在某些区域内误差大。