浮点数运算不精确问题如何解决

lzhqlj2008 2010-03-08 09:37:48
rt
...全文
171 5 打赏 收藏 转发到动态 举报
写回复
用AI写文章
5 条回复
切换为时间正序
请发表友善的回复…
发表回复
lzhqlj2008 2010-03-08
  • 打赏
  • 举报
回复
解决了 使用了 strtocurr
林石公 2010-03-08
  • 打赏
  • 举报
回复
if abs(a-b)<1e-6 the
ShowMessge('a=b')
我常用这种办法
bdmh 2010-03-08
  • 打赏
  • 举报
回复
取一个范围,两个数之差在一个范围内就认为它们相等就行了
lzhqlj2008 2010-03-08
  • 打赏
  • 举报
回复
我想0.0001 除以 0.0001 =1
除了+0.5之外 有没有别的方法
bdmh 2010-03-08
  • 打赏
  • 举报
回复
跟没说一样,只是告诉你,浮点数与整形的存储方式是不一样的,浮点数不能精确地为某个数

16,746

社区成员

发帖
与我相关
我的任务
社区描述
Delphi 语言基础/算法/系统设计
社区管理员
  • 语言基础/算法/系统设计社区
加入社区
  • 近7日
  • 近30日
  • 至今
社区公告
暂无公告

试试用AI创作助手写篇文章吧