浮点数问题

xitijie 2012-03-20 10:00:25
1.为什么尾数位越多,精度越高?(与此问题对应的另外一个问题:指数位越多,范围越大我想得明白,但是这个想不明白)
2.float的精度最高是多少?

希望各位能举例说明,感激不尽
...全文
124 8 打赏 收藏 转发到动态 举报
写回复
用AI写文章
8 条回复
切换为时间正序
请发表友善的回复…
发表回复
AnYidan 2012-03-20
  • 打赏
  • 举报
回复
google IEEE754
goldbeef 2012-03-20
  • 打赏
  • 举报
回复
浮点数 一般占用固定的字节,由 符号位 ,尾数,阶数,三部分组成。符号位一般占一位,而其它位由 尾数和阶数占用。尾数位决定 精确度,假如尾数位共有 m位,则 其精度是 (1/2)^m,假如阶数是n(假如就用原码表示,实际上IEEE754并不是这样的),则其表示范围是 -2^n~2^n-1
qixing1115 2012-03-20
  • 打赏
  • 举报
回复
[Quote=引用 1 楼 flowingfirefly 的回复:]
1. 3.14和3.1415926那个精度更高, 这就是为什么尾数位数越多, 精度越高
2. 一般为7位, 这与机器密切相关
[/Quote]
如果一个数真实为:3.141592653,但整数只能表示为:3,假设另一种只能表示尾数2位,即只能表示为:3.14;另一种表示尾数高达到10位,那就可以精确到3.141592653
蓝枫10 2012-03-20
  • 打赏
  • 举报
回复
1.比如同一个数3.141592657。由于精度不同,有一个值只能取3.14,另一个去3.141592.后一个精度肯定更高,取值更准确。
2. 操作系统和编译平台上 表现的精度不一致
面包大师 2012-03-20
  • 打赏
  • 举报
回复
1.并不是说尾数位越多,精度越高,应该是说,尾数位越多,能表示的精度越高。。。。
  • 打赏
  • 举报
回复
搜索浮点数的阶码和尾数
面包大师 2012-03-20
  • 打赏
  • 举报
回复
2.float的精度是6位有效数字,取值范围是10的-38次方到10的38次方,float占用4字节空间
flowingfirefly 2012-03-20
  • 打赏
  • 举报
回复
1. 3.14和3.1415926那个精度更高, 这就是为什么尾数位数越多, 精度越高
2. 一般为7位, 这与机器密切相关

69,335

社区成员

发帖
与我相关
我的任务
社区描述
C语言相关问题讨论
社区管理员
  • C语言
  • 花神庙码农
  • 架构师李肯
加入社区
  • 近7日
  • 近30日
  • 至今
社区公告
暂无公告

试试用AI创作助手写篇文章吧