如何处理java的Math.pow()计算的误差

灿飞屋 2013-02-21 09:16:37

Java中12*Math.pow(10, -1)的计算结果是1.2000000000000002，怎样让幂计算得出正确的结果，项目中有大量类似的幂计算。

...全文

284 2 打赏收藏转发到动态举报

写回复

2 条回复

切换为时间正序

请发表友善的回复…

发表回复

花谢尊前不敢香 2013-02-21

打赏
举报

回复

Math.pow(10, -1)返回的结果是一个幂级数，底数是10，指数是-1 12是一个整数，可以认为底数是12，指数是1 两者底数不一样，结果肯定是你那样的了，你可以把12转换为底数是10的数，再运行，结果应该是正确的。

课程目标本套课程带你认识常用的共识算法及其代码实现课程简介@课程收益：掌握劳动量证明（PoW）算法及其实现；课程配套学习资料，建议学员学习过程中跟着视频教程实操，可理解更加深入。技术问题可在下方留言，每晚8点我会准时答疑。感谢观看，祝您学习愉快！

MSDN中关于Math.Pow的说明是这样的： public static double Pow (double x, double y); xDouble要乘幂的双精度浮点数。 yDouble指定幂的双精度浮点数。ReturnsDouble数字x的y次幂。但是涉及到需要计算精确数值的时候这个方法就不适用了。但有个第三方的方法可以使用。方法如下：1.Nug...

使用StrictMath.pow()替代

I have do to a question to write a method to input an array of type LONG that stores the values of all the powers of 2 from 0 to 63 (i.e. 20 to 263)Output the contects of the array screen.Hint: Math.p...

首先，尊重原版，这是我参考的内容。 http://blog.csdn.net/xiaoxiongli/article/details/2134626 今天一个同学问我怎么实现pow函数的功能，我想着，简单啊，循环然后*=就出来了啊。但是一操作不是那么回事。找了很久也没找到这个函数的源码，结果在一个C++群里面问到了这篇文章，怪我度娘没用好，居然没搜到上面的文章。话不多说，上

62,614

社区成员

307,326

社区内容

发帖

与我相关

我的任务

社区管理员

加入社区

近7日
近30日
至今

加载中

查看更多榜单

社区公告

暂无公告

试试用AI创作助手写篇文章吧

+ 用AI写文章