关于微机由于数据精度产生的漂移有什么好的解决方法?

schzh schzh 墨衍会员 · AI 创作全网分发 墨衍智能分发 通过墨衍一键同步至各平台 可同步平台 CSDN微信公众号微博知乎掘金百家号博客园抖音小红书 你的文章也可以这样分发 墨衍会员 ¥399起/年,写一次发全网 我也要 + 加入社区
例如:20个双精度数据累加,本来是确切的30,但由于精度,在十几位后产生一个漂移,
那结果就可能是30.000000000000000001,这本来没什么,但如果要求平均,保留一位小数,因为round,cint,clng等函数按照“四舍六入五留双”的原则计算,那结果就是1.6,而不是1.5(有尾恒留双),请教诸位有什么通用的方法?
...全文

相关推荐

评论 5
收藏 已收藏
分享
返回顶部
schzh
VB基础类 7,788 成员 197,583 内容