Math.Round出错

baihualin1983 baihualin1983 墨衍会员 · AI 创作全网分发 墨衍智能分发 通过墨衍一键同步至各平台 可同步平台 CSDN微信公众号微博知乎掘金百家号博客园抖音小红书 你的文章也可以这样分发 墨衍会员 ¥399起/年,写一次发全网 我也要 + 加入社区
为什么Math.Round会出现这样的结果?

我怀疑出现这个问题的原因是我调用了c++的库有关,不光是Math.Round函数,很多数据都会出错。如果不调用c++的库就没有这个问题了。

请教出现这个问题的原因,为什么会出现这样的结果,该如何解决?万分感谢!


double d=Math.Round(0.077004402875900269,2);

监控d的结果是:0.079999998211860657

并不是想要的结果,正确的结果应该是保留小数点后的2位

Math.Round(0.553,2) 这句的返回值也不正确,返回很长的一个double类型
...全文

相关推荐

评论 13
收藏 已收藏
分享
返回顶部
baihualin1983
C# 111,128 成员 642,536 内容