解决javascript的Math.pow()误差问题

灿飞屋 2013-02-21 09:18:21

发现javascript的Math.pow()的计算结果存在误差，比如12*Math.pow(10, -1)的输出结果是1.2000000000000002，怎样才能让Math.pow()输出精确的结果，需要用Math.pow()进行大量计算，求帮忙！

...全文

531 3 打赏收藏转发到动态举报

写回复

3 条回复

切换为时间正序

请发表友善的回复…

发表回复

Kilin_Zhang 2013-02-22

打赏
举报

回复

js做小数运算确实比较头疼

001007009 2013-02-21

打赏
举报

回复

楼主搜下 js小数误差

bbjbepzz 2013-02-21

打赏
举报

回复



console.log(12/10*10*Math.pow(10, -1));

console.log(Math.pow(10, -1)*12/10*10);

console.log(Math.pow(10, -1)*10*12/10);/*这个是正确的*/

一般是先将小数转换成整数再来求值。
下面这段话是javascript语言精粹上的关于js处理小数的问题，最近正在看的一杯书。

掌握劳动量证明（PoW）算法及其实现；课程配套学习资料，建议学员学习过程中跟着视频教程实操，可理解更加深入。技术问题可在下方留言，每晚8点我会准时答疑。感谢观看，祝您学习愉快！

js中如何取精度一、总结一句话总结：其实round()函数去经度会有误差，直接用num.toFixed(2)简单方便。 toFixed()方法会按照指定的小数...1、Math.round(n * Math.pow(10, m)) / Math.pow(10, m) ;这种方法求...

首先是toFixed方法,原本的方法有一些误差,小数点部分不是真正的四舍五入重写一下: const toFixed = function (myNum,s) { // Math.pow(10, s) =>10的s次方 // Math.round=>整数后面的第一个小数数字四舍...

1. javascript 四舍五入函数 function sswr(zhi)//四舍五入 ... val = Math.round(val*Math.pow(10,2))/Math.pow(10,2); return val; } 比网上的多了一个格式强转换，这是在项目实际实施中遇见问题后...

js计算精度问题(浮点数误差，大数计算出错) JavaScript 浮点数运算时经常遇到会 0.000000001 和 0.999999999 这样奇怪的结果，如: 0.1+0.2 //0.30000000000000004 1-0.9 //0.09999999999999998 9007199254740993-...

87,910

社区成员

224,616

社区内容

发帖

与我相关

我的任务

社区管理员

加入社区

近7日
近30日
至今

加载中

查看更多榜单

社区公告

暂无公告

试试用AI创作助手写篇文章吧

+ 用AI写文章