关于浮点数精度的一个问题

开起我亲爱的小耗子~ 2021-07-14 06:59:16

计算机在存储浮点数时可能会存在丢失精度的问题。

但为什么下面这个代码,打印出的结果不会有精度缺失的问题呢?

float num = 2.7f;
System.out.print(num); // 2.7

 

...全文
915 1 打赏 收藏 转发到动态 举报
写回复
用AI写文章
1 条回复
切换为时间正序
请发表友善的回复…
发表回复
feijunjun 2021-07-14
  • 打赏
  • 举报
回复

你看到 2.7f 其实内存里的值差不多是 2.6999999999999 比较浮点的时候只是在精度范围内比较
比如 2.699999999999999999987 和 2.699999999999999999986 在单精度里,他们是相等的,但是在双精度里,就不相等了

62,628

社区成员

发帖
与我相关
我的任务
社区描述
Java 2 Standard Edition
社区管理员
  • Java SE
加入社区
  • 近7日
  • 近30日
  • 至今
社区公告
暂无公告

试试用AI创作助手写篇文章吧