round函数和format函数在保留数据上的问题

龙砖的小趴菜 2024-07-24 14:36:47

为何在保留4位小数时,改变第三位小数会对第4位小数的保留规则产生影响? 

在保留第n+1位时,前n位的改变可能会引起第n+1位小数保留规则的变动,如

这是为什么?是由于round的函数逻辑决定的吗?有时会遵守银行家规律,而有时有时四舍五入规律 

...全文
675 4 打赏 收藏 转发到动态 举报
AI 作业
写回复
用AI写文章
4 条回复
切换为时间正序
请发表友善的回复…
发表回复
  • 打赏
  • 举报
回复

浮点数

hangxingdemeng 2024-08-20
  • 打赏
  • 举报
回复

浮点数是这样子的

tcmakebest 2024-07-24
  • 打赏
  • 举报
回复 1

因为用二进制表示的浮点数都不精确,你以为的最后一位5也许是49?

龙砖的小趴菜 2024-07-24
  • 举报
回复
@tcmakebest 懂了,小数的乘二进位,但是感觉在计算上还是容易出问题

20,676

社区成员

发帖
与我相关
我的任务
社区描述
从0开始学一门编程语言,最重要的是开始和坚持。社区由官方CSDN创建,邀请资深讲师、博主加入,参与学习、答题
学习开源 高校 北京·朝阳区
社区管理员
  • CSDN学习
  • ZzSmart
  • SoftwareDevOps
加入社区
  • 近7日
  • 近30日
  • 至今
社区公告

《CSDN学习社区管理规范》出炉啦~

详情请点击->阅读

规范内包含CSDN学习社区对各大社员的

“福利” 与 “社区管理细则”

请务必详情阅读哦~

试试用AI创作助手写篇文章吧