社区
C语言
帖子详情
浮点数问题
xitijie
2012-03-20 10:00:25
1.为什么尾数位越多,精度越高?(与此问题对应的另外一个问题:指数位越多,范围越大我想得明白,但是这个想不明白)
2.float的精度最高是多少?
希望各位能举例说明,感激不尽
...全文
124
8
打赏
收藏
浮点数问题
1.为什么尾数位越多,精度越高?(与此问题对应的另外一个问题:指数位越多,范围越大我想得明白,但是这个想不明白) 2.float的精度最高是多少? 希望各位能举例说明,感激不尽
复制链接
扫一扫
分享
转发到动态
举报
写回复
配置赞助广告
用AI写文章
8 条
回复
切换为时间正序
请发表友善的回复…
发表回复
打赏红包
AnYidan
2012-03-20
打赏
举报
回复
google IEEE754
goldbeef
2012-03-20
打赏
举报
回复
浮点数 一般占用固定的字节,由
符号位 ,尾数,阶数,
三部分组成。符号位一般占一位,而其它位由 尾数和阶数占用。尾数位决定 精确度,假如尾数位共有 m位,则 其精度是 (1/2)^m,假如阶数是n(假如就用原码表示,实际上IEEE754并不是这样的),则其表示范围是 -2^n~2^n-1
qixing1115
2012-03-20
打赏
举报
回复
[Quote=引用 1 楼 flowingfirefly 的回复:]
1. 3.14和3.1415926那个精度更高, 这就是为什么尾数位数越多, 精度越高
2. 一般为7位, 这与机器密切相关
[/Quote]
如果一个数真实为:3.141592653,但整数只能表示为:3,假设另一种只能表示尾数2位,即只能表示为:3.14;另一种表示尾数高达到10位,那就可以精确到3.141592653
蓝枫10
2012-03-20
打赏
举报
回复
1.比如同一个数3.141592657。由于精度不同,有一个值只能取3.14,另一个去3.141592.后一个精度肯定更高,取值更准确。
2. 操作系统和编译平台上 表现的精度不一致
面包大师
2012-03-20
打赏
举报
回复
1.并不是说尾数位越多,精度越高,应该是说,尾数位越多,能表示的精度越高。。。。
能写程序-会种庄稼
2012-03-20
打赏
举报
回复
搜索浮点数的阶码和尾数
面包大师
2012-03-20
打赏
举报
回复
2.float的精度是6位有效数字,取值范围是10的-38次方到10的38次方,float占用4字节空间
flowingfirefly
2012-03-20
打赏
举报
回复
1. 3.14和3.1415926那个精度更高, 这就是为什么尾数位数越多, 精度越高
2. 一般为7位, 这与机器密切相关
浮点数
转换工具(十六进制转
浮点数
)
非常适用的小工具,绿色软件,不用安装,
浮点数
转换工具(十六进制转
浮点数
)
单精度&双精度
浮点数
与十六进制数相互转换
浮点数
和十六进制数的相互转换,包括:1.单精度
浮点数
(32位)和十六进制数的相互转换,2.双精度
浮点数
(64位)和十六进制数的相互转换。
Modbus协议讲解及实现
5、掌握Modbus协议下,负数,
浮点数
等处理方法。 讲师简介 许孝刚,山东大学工程硕士,副高职称,技术总监。 10多年丰富嵌入式系统开发经验,国家软考“嵌入式系统设计师”。 2017年获得“华为开发者社区杰出贡献者...
C#
浮点数
问题
C#
浮点数
问题
示例: 解决方案是使用【decimal】 //双
浮点数
计算失精
问题
示例 double x = 300.2; double y = 300; Console.WriteLine("double计算"+(x - y)); //双
浮点数
计算失精
问题
解决示例 decimal d1 = ...
RT-Thread中rt_kprintf函数和ulog无法输出
浮点数
问题
解决
rt_kprintf()无法输出
浮点数
问题
解决 具体参考这边博客:RT-thread rt_kprintf()函数格式化输出
浮点数
修改方法:查找到 rt_kprintf() 这个函数的具体位置(/rt-thread/src/kservice.c文件下),在最上面添加头文件 ...
C语言
69,335
社区成员
243,078
社区内容
发帖
与我相关
我的任务
C语言
C语言相关问题讨论
复制链接
扫一扫
分享
社区描述
C语言相关问题讨论
社区管理员
加入社区
获取链接或二维码
近7日
近30日
至今
加载中
查看更多榜单
社区公告
暂无公告
试试用AI创作助手写篇文章吧
+ 用AI写文章