再请问一个关于JAVASCRIPT中计算精度的问题？

逍遥散人 2001-04-16 11:04:00

请问，我在用javascript进行计算时发现只要是3和3的倍数或者个位为3时，计算出来的结果就很怪，比如：20.7*3=62.099999999999994,20.7*6=124.199999999999999,13*20.7=269.099999999999996,而其他数字或超过23以后就没有这种现象？这是为什么呢?

...全文

44 2 打赏收藏转发到动态举报

写回复

2 条回复

切换为时间正序

请发表友善的回复…

发表回复

skt642 2001-05-31

打赏
举报

回复

90994关注！

tlovexyj 2001-04-16

打赏
举报

回复

float计算只能取近似值

在 JavaScript 中，浮点数运算常常会让开发者感到困惑，尤其是在处理小数时。的结果为。为什么会出现这样的结果？我们将逐步解析这个问题。在 JavaScript 中，浮点数精度问题是一个常见且重要的概念。理解其背后的原因，以及如何应对这些问题，对于开发者来说至关重要。通过采取适当的方法，我们可以有效地减少浮点数计算带来的意外错误，确保代码的准确性和可靠性。希望通过本文的解析，能帮助你更好地理解并应对 JavaScript 中的浮点数精度问题。

保留小数位数：在进行小数计算时，可以通过toFixed()方法保留需要的小数位数，但要注意该方法返回的结果为字符串类型，需要使用parseFloat()方法将其转换为数字类型。完成计算后再将结果除以相应的倍数，得到最终结果。使用第三方库：JavaScript中有许多优秀的第三方库，例如Decimal.js、Big.js等，这些库可以用来处理浮点数和小数的计算精度问题。使用Math库的函数：例如round()、floor()、ceil()、abs()等函数，这些函数可以用来处理浮点数和小数的计算精度问题。

Big.js 是一个 JavaScript 的 “任意精度” 数字库，能够处理普通数字无法表示的大数字计算。当使用 JavaScript 进行数值计算时，会面临一些精度问题，这些问题可能会导致不正确的结果。解决方案：可以使用 BigInt 类型进行更大范围的整数运算，但是要注意支持性不够广泛，需在浏览器和 Node.js 环境中提供额外的支持。Luckily, Big.js 提供了相关方法。在处理大数值时，使用 big.js 这样的高精度库可以避免 JavaScript 中 Number 类型的精度问题。

以前知道计算机中存在计算精度的问题，但是没仔细探讨过。今天在javascript中见到0.1+0.2，输出不是预期的0.3，便想深入了解一下这个问题。在控制台输出0.1+0.2，会发现结果不是0.3，而是0.30000000000000004。这是什么原因造成的呢？这涉及到计算机科学中的一个基本概念，即浮点数的二进制表示和有限精度运算。

项目中我们常常需要做一些计算，由于浮点数的二进制表示可能不精确，经常会遇到计算精度问题，例这个时候，如果我们不单独处理，那么页面上展示的时候就出现布局错乱等问题，比如我们可以保留两位小数采用Number(resultNum).toFixed(2),但是部分时候精度又达不到我们的要求。所以以下我做了几种解决计算的方法，亲测有效。

28,406

社区成员

356,946

社区内容

发帖

与我相关

我的任务

社区管理员

加入社区

近7日
近30日
至今

加载中

查看更多榜单

社区公告

暂无公告

试试用AI创作助手写篇文章吧

+ 用AI写文章