fabs(a)<=EPS 是什么意思？

TTTjun 2012-10-20 07:02:49

书上第一次出现就说测试0 也不说是啥

...全文

7148 6 打赏收藏转发到动态举报

写回复

用AI写文章

6 条回复

切换为时间正序

请发表友善的回复…

发表回复

pw2156314 2012-10-20

打赏
举报

[Quote=引用 2 楼的回复:]
EPS是个很小的数，如1e-6，因为浮点数在内存中的表示是不精确的，会有很微小的误差，所以判断是否为0，就看它的绝对值是不是<=EPS
[/Quote]
增长见识了！~

startservice 2012-10-20

打赏
举报

[Quote=引用 1 楼的回复:]

IEEE754标准中，单精度浮点数(4byte)表示法：1bit符号位(S)，8bit指数位(E,用阶码表示)，23bit小数部分(尾数M)。双精度浮点数(8byte)表示法：１bit符号位，11bit指数位(用阶码表示)，52bit小数部分(尾数)。所以一个规格化的单精度浮点数x的真值为x=((-1)^S)*(1.M)*(2^(E-127));显然，x永远也不可能为绝对0。
[/Quote]
+

mujiok2003 2012-10-20

打赏
举报

1-3楼都说了

JWMNEU 2012-10-20

打赏
举报

所以要比较一个浮点数是否等于零就得用这个方法，EPS是定义的一个非常小的数，比如1e-6。

xiaoxiao8310 2012-10-20

打赏
举报

EPS是个很小的数，如1e-6，因为浮点数在内存中的表示是不精确的，会有很微小的误差，所以判断是否为0，就看它的绝对值是不是<=EPS

JWMNEU 2012-10-20

打赏
举报

IEEE754标准中，单精度浮点数(4byte)表示法：1bit符号位(S)，8bit指数位(E,用阶码表示)，23bit小数部分(尾数M)。双精度浮点数(8byte)表示法：１bit符号位，11bit指数位(用阶码表示)，52bit小数部分(尾数)。所以一个规格化的单精度浮点数x的真值为x=((-1)^S)*(1.M)*(2^(E-127));显然，x永远也不可能为绝对0。

本文探讨了计算几何中常见的精度问题，包括浮点数运算误差、eps的使用、函数越界及输出陷阱等问题，并提供了相应的解决方案。

本文剖析fabs(a-b)<eps失效的根本原因，指出其在数量级差异、近零值、误差累积等场景下的局限性；重点介绍相对误差比较与ULP（最后一位单位）比较两种核心技术，并结合图形学、迭代算法、几何计算等典型场景给出分层应对策略；强调需规避NaN/Inf陷阱，主张按业务需求定制混合容差机制，而非依赖单一epsilon。

本文详解C++中浮点数不能直接用==比较的原因，指出其根本在于二进制存储精度误差，并强调应使用fabs(a-b)<EPS进行近似判断。该知识点是CSP-J/S和GESP认证高频考点，涉及数值计算、几何判断等场景，错误使用==将导致WA或CE。

博客介绍了abs()函数的头文件为stdlib.h/cstdlib，fabs()函数的头文件是math.h/cmath，同时提出使用fabs()时需考虑eps精确度的问题，探讨了1e - 5和1e - 8哪个更好。

这篇博客介绍了Python中进行开方运算的方法，包括使用math库的sqrt函数和**运算符。还提到了Python实现凸包算法的思路，虽然没有给出具体代码，但指出了相关函数和数据结构的重要性。