Math.Round出错
为什么Math.Round会出现这样的结果?
我怀疑出现这个问题的原因是我调用了c++的库有关,不光是Math.Round函数,很多数据都会出错。如果不调用c++的库就没有这个问题了。
请教出现这个问题的原因,为什么会出现这样的结果,该如何解决?万分感谢!
double d=Math.Round(0.077004402875900269,2);
监控d的结果是:0.079999998211860657
并不是想要的结果,正确的结果应该是保留小数点后的2位
Math.Round(0.553,2) 这句的返回值也不正确,返回很长的一个double类型


我怀疑出现这个问题的原因是我调用了c++的库有关,不光是Math.Round函数,很多数据都会出错。如果不调用c++的库就没有这个问题了。
请教出现这个问题的原因,为什么会出现这样的结果,该如何解决?万分感谢!
double d=Math.Round(0.077004402875900269,2);
监控d的结果是:0.079999998211860657
并不是想要的结果,正确的结果应该是保留小数点后的2位
Math.Round(0.553,2) 这句的返回值也不正确,返回很长的一个double类型


...全文
相关推荐
javascript小数四舍五入多种方法实现
**最基础的Math.round()方法** 这是最常见也是最基础的四舍五入方法。`Math.round()`函数将数字四舍五入到最接近的整数。
java面试题第二弹
**Math.round()方法** - Math.round()返回最接近参数的长整数。对于正数,如果参数大于等于0.5,则向上取整;对于负数,如果参数小于等于-0.5,则向下取整。7.
java面试题(持续更新).pdf
Math.round方法的使用是将参数四舍五入到最接近的long或int类型。Math.round(11.5)等于12,而Math.round(-11.5)等于-11。
java ssh面试宝典
Math.round()函数的行为**`Math.round()`函数会将浮点数四舍五入到最近的整数。
71道经典Android面试题和答案
Math类的round方法**题目**: `Math.round(11.5)`等于多少? `Math.round(-11.5)`等于多少?


