社区
数据结构与算法
帖子详情
二进制浮点数rounding的问题
applicationm
2009-08-19 12:31:08
使用round to even方法,将下列的一些二进制浮点数round to even后是什么呢?
怎样判断浮点数是奇数还是偶数呢?谢谢。
round到小数点后8未,即最后两位去掉
1.0011100110
1.1001001001
1.0111000101
1.0011100010
1.0011100111
...全文
323
1
打赏
收藏
二进制浮点数rounding的问题
使用round to even方法,将下列的一些二进制浮点数round to even后是什么呢? 怎样判断浮点数是奇数还是偶数呢?谢谢。 round到小数点后8未,即最后两位去掉 1.0011100110 1.1001001001 1.0111000101 1.0011100010 1.0011100111
复制链接
扫一扫
分享
转发到动态
举报
AI
作业
写回复
配置赞助广告
用AI写文章
1 条
回复
切换为时间正序
请发表友善的回复…
发表回复
打赏红包
fjcqv
2009-08-23
打赏
举报
回复
1.00111010
1.10010010
1.01110001
1.00111000
1.00111010
第8位为0,第9位、第10位为10不进位。
第8位为1,第9位、第10位为10进位。
Java解惑中文版(带索引)
Java解惑中文版(带索引)。深入了解Java内部机制,自制索引方便阅读,分享给大家。
IEEE Std 754 IEEE Standard for Floating-Point Arithmetic
二进制
浮点运算标准英文版 PDF格式,内容是英文的。。。
浮点运算单元(Verilog)
Verilog写的浮点运算单元。
Java Double 精度
问题
总结
使用Java,double 进行运算时,经常出现精度丢失的
问题
,总是在一个正确的结果左右偏0.0000**1。 特别在实际项目中,通过一个公式校验该值是否大于0,如果大于0我们会做一件事情,小于0我们又处理其他事情。 这样的情况通过double计算出来的结果去和0比较大小,尤其是有小数点的时候,经常会因为精度丢失而导致程序处理流程出错。
Python
浮点数
四舍五入
问题
的分析与解决方法
主要给大家介绍了关于Python中
浮点数
四舍五入
问题
的分析与解决方法,文中通过示例代码介绍的非常详细,对大家学习或者使用Python具有一定的参考学习价值,需要的朋友们下面来一起学习学习吧
数据结构与算法
33,028
社区成员
35,336
社区内容
发帖
与我相关
我的任务
数据结构与算法
数据结构与算法相关内容讨论专区
复制链接
扫一扫
分享
社区描述
数据结构与算法相关内容讨论专区
社区管理员
加入社区
获取链接或二维码
近7日
近30日
至今
加载中
查看更多榜单
社区公告
暂无公告
试试用AI创作助手写篇文章吧
+ 用AI写文章