浮点数运算的相关问题
procedure TForm1.Button1Click(Sender: TObject);
var
fLevel : double;
iLevelInt, iLevelFra : integer;
begin
{输入222.20,iLevelFra = 19}
fLevel := 222.20;
iLevelInt := Floor( fLevel );
iLevelFra := Floor(( fLevel - iLevelInt ) * 100);
ShowMessage( IntToStr( iLevelFra ) );
end;
怎么输出是19?调试发现iLevelFra = 20!
如果直接使用:
ShowMessage( IntToStr( Floor(20) ) );
输出就是20。
奇怪,请高手指教。
var
fLevel : double;
iLevelInt, iLevelFra : integer;
begin
{输入222.20,iLevelFra = 19}
fLevel := 222.20;
iLevelInt := Floor( fLevel );
iLevelFra := Floor(( fLevel - iLevelInt ) * 100);
ShowMessage( IntToStr( iLevelFra ) );
end;
怎么输出是19?调试发现iLevelFra = 20!
如果直接使用:
ShowMessage( IntToStr( Floor(20) ) );
输出就是20。
奇怪,请高手指教。
...全文
相关推荐
fd.rar_浮点数_浮点数运算
www.pudn.com.txt"文件可能包含更多关于浮点数运算的参考资料,比如相关文章链接或示例代码,帮助用户理解并扩展浮点数运算的知识。
JavaScript浮点数及运算精度调整详解
总而言之,JavaScript中的浮点数精度问题是一个与语言特性相关的固有问题,但通过一些技巧和工具函数,可以在大多数情况下避免它带来的麻烦。
JS浮点数精度问题[代码]
文章提出了两种解决精度问题的方法。第一种方法是通过整数运算来避免直接处理浮点数。这种策略将涉及浮点数的计算转化为整数运算,通过调整数值的大小,例如放大100倍进行整数运算后,再按比例缩小回原来数值。
Python浮点数精度问题[源码]
Python浮点数精度问题是一个复杂而又关键的话题,它不仅需要开发者了解计算机的基础知识,还需要掌握如何在编程实践中妥善处理相关问题。
php 浮点数比较方法详解
为了更好地处理浮点数,可以查阅更多相关文章,例如探讨如何在PHP中判断两个浮点数是否相等的技巧,理解浮点数的精确运算方法,或者学习如何处理PHP中浮点数比较和取整的不准确性。


语言基础/算法/系统设计
