二进制浮点数rounding的问题

applicationm 2009-08-19 12:31:08
使用round to even方法，将下列的一些二进制浮点数round to even后是什么呢？
怎样判断浮点数是奇数还是偶数呢？谢谢。

round到小数点后8未，即最后两位去掉
1.0011100110
1.1001001001
1.0111000101
1.0011100010
1.0011100111
...全文
351 1 打赏 收藏 转发到动态 举报
写回复
用AI写文章
1 条回复
切换为时间正序
请发表友善的回复…
发表回复
fjcqv 2009-08-23
  • 打赏
  • 举报
 回复
1.00111010
1.10010010
1.01110001
1.00111000
1.00111010

第8位为0，第9位、第10位为10不进位。
第8位为1，第9位、第10位为10进位。
uniapp开发必看：告别0.1+0.2≠0.3的尴尬，手把手教你集成decimal.js
本文针对uniapp中JavaScript浮点数精度问题（如0.1+0.2≠0.3），详解其二进制表示本质，并推荐decimal.js作为最优解。涵盖在uniapp项目中的完整集成路径：npm安装、工具类封装、Vue页面调用；深入讲解Decimal对象生命周期、全局精度与舍入模式配置（如Banker's rounding）、大数处理及序列化注意事项，并指出输入校验、舍入时机、安全比较等关键避坑要点。
【汇编语言与计算机系统结构笔记03】浮点数的计算机表示，IEEE 754，舍入（rounding），C语言中的浮点数
这篇笔记详细介绍了IEEE 754浮点数标准，包括规格化和非规格化浮点数的表示，以及浮点数的舍入策略。文中探讨了C语言中的浮点数行为，并提供了浮点计算相关的谜题及解答。
FPGA定点数处理：Rounding与Saturation的硬件实现与优化
本文深入探讨FPGA中定点数处理的核心技术：Rounding（四舍五入）与Saturation（饱和）。重点解析其硬件本质——Rounding通过‘加0.5 LSB再截断’减少量化误差，但可能引发进位溢出；Saturation则通过高位一致性检测实现高效限幅，避免Wrap-around失真。文章涵盖标准RTL架构、DSP Slice原语优化、流水线设计、以及在音频、图像、通信和AI推理等场景下的策略差异与典型陷阱，并强调定点仿真、静态位宽分析与ILA调试等工程实践方法。
Day 51：浮点数精度与舍入误差（Floating-Point Precision and Rounding Errors）
本文探讨了C语言中浮点数的存储方式及其精度限制，分析了舍入误差、精度损失和常见编程陷阱。介绍了如何通过误差容忍、统一类型、算法优化等方式规避问题，并提供了典型错误代码与修复方案。
二进制浮点数算术标准 IEEE 754
IEEE754是自1980年代以来最广泛应用的浮点数运算标准，定义了浮点数的格式、特殊数值及运算规则等。本文详细介绍了IEEE754标准中的单精度和双精度浮点数格式，并解释了浮点数的表示方法、特殊值定义、比较和舍入规则。
数据结构与算法

33,025

社区成员

35,336

社区内容

发帖
与我相关
我的任务
社区描述
数据结构与算法相关内容讨论专区
社区管理员
  • 数据结构与算法社区
加入社区
  • 近7日
  • 近30日
  • 至今

加载中

查看更多榜单
社区公告
暂无公告

试试用AI创作助手写篇文章吧

+ 用AI写文章