问个浮点数精度的问题？

Totitan 2004-04-03 10:14:57

对于用long double 定义的数据类型，通过watch查看有效数字时发现，它的有效位数只有16位，并不是所谓的19位。这是怎么回事？

使用的是C＋＋Builder 编译器。

...全文

45 3 打赏收藏转发到动态举报

写回复

3 条回复

切换为时间正序

请发表友善的回复…

发表回复

xiaoshi0 2004-04-03

打赏
举报

回复

无语

studyever 2004-04-03

打赏
举报

回复

#include <stdio.h>
#include <float.h>
int main (void)
{
printf ("LDBL_DIG = %d bit\n" ,LDBL_DIG);
}

我在TC 2。0 显示的确实是19位.。也可以看头文件float，上面写着
#defind LDBL_DIG 19 .这样更方便吧~。书上可能是印错了吧！

studyever 2004-04-03

打赏
举报

回复

什么叫无语？！
我错了吗？
请指正！

C 语言中的浮点数精度问题是由于其存储方式和有限的位数导致的。在编程中，需要充分认识到这些问题可能带来的影响，如数值比较的错误、算术运算的偏差和累计误差等。通过选择合适的数据类型、采用正确的比较方法、优化算法和注意数值范围，可以有效地减少浮点数精度问题带来的潜在错误，提高程序的正确性和可靠性。在 C 语言中，浮点数（float 和 double 类型）的精度是一个重要且容易引起困惑的概念。理解浮点数的精度问题对于编写正确和可靠的程序至关重要。 # 一、浮点数的表示 浮点数在计算机中的存储方式遵循 IEEE

在 JavaScript 中，浮点数运算常常会让开发者感到困惑，尤其是在处理小数时。的结果为。为什么会出现这样的结果？我们将逐步解析这个问题。在 JavaScript 中，浮点数精度问题是一个常见且重要的概念。理解其背后的原因，以及如何应对这些问题，对于开发者来说至关重要。通过采取适当的方法，我们可以有效地减少浮点数计算带来的意外错误，确保代码的准确性和可靠性。希望通过本文的解析，能帮助你更好地理解并应对 JavaScript 中的浮点数精度问题。

浮点数精度问题是计算机科学中一个常见的问题，由于二进制无法精确表示某些十进制小数，进行浮点数运算时可能会出现舍入误差。为了解决这个问题，可以使用整数进行计算、使用专门的库或者比较时使用误差范围。了解浮点数精度问题对于开发人员在处理浮点数运算时具有重要意义。

浮点数的精度问题是计算机科学中的一个常见问题，它可能导致一些看似简单的数学运算产生意外的结果。为了解决这个问题，我们需要深入理解浮点数的表示方式和精度问题产生的原因，并采取合适的解决方案。通过选择合适的数值类型、设置合理的精度阈值、避免多次浮点运算、使用专门的数学库以及充分的测试和验证，我们可以有效地解决浮点数的精度问题，确保程序的正确性和稳定性。

Java 浮点数的精度问题源于其底层的二进制表示方式和有限的存储位数。在实际编程中，我们必须谨慎处理浮点数运算，根据具体场景选择合适的方法来避免精度问题。对于一般的浮点数比较，可以使用误差范围进行判断；而对于需要高精度计算的场景，BigDecimal类是首选方案。此外，整型运算代替浮点数运算以及借助精度处理库，也能为解决浮点数精度问题提供有效的途径。通过深入理解和合理运用这些方法，开发者能够编写出更加健壮和准确的 Java 程序。

13,871

社区成员

102,693

社区内容

发帖

与我相关

我的任务

社区管理员

加入社区

近7日
近30日
至今

加载中

查看更多榜单

社区公告

暂无公告

试试用AI创作助手写篇文章吧

+ 用AI写文章