关于float的

weixin_41290057 2019-03-10 10:09:28
请教大神们一个问题 ：float共32位23位为尾数位根据0舍1入的规则当24位为1的时候第23位要+1这时候float中存储的数会比正确的数大上一些假设float为8000023那么正确的数小上一些为7999986这样有效位数不是6位了嘛
...全文
79 2 打赏 收藏 转发到动态 举报
写回复
用AI写文章
2 条回复
切换为时间正序
请发表友善的回复…
发表回复
ddd7890 2019-03-12
  • 打赏
  • 举报
 回复
参考IEEE 754吧，不过你的那种DSP 芯片，需要float
zy010101 2019-03-12
  • 打赏
  • 举报
 回复
引用 楼主 weixin_41290057的回复:
请教大神们一个问题 ：float共32位23位为尾数位根据0舍1入的规则当24位为1的时候第23位要+1这时候float中存储的数会比正确的数大上一些假设float为8000023那么正确的数小上一些为7999986这样有效位数不是6位了嘛
参考IEEE 754
关于float丢失精度
关于float丢失精度 在实际中遇到一个问题： 当float类型的一个数的整数部分特别大时，如4399670.00在计算时，这个数只保留两位小数，此时，这个数参加运算时，就会丢失小数级别的精度。0.15，0.25会被当做0.00。这...
Java中关于float类型转double类型的问题及解决方法
Java中关于float类型转double类型的问题及解决方法 过程 public static void main(String[] args) { int i = 1; float f = 1.1f; double d = 1.0d; System.out.println((int)(i+f+d));// 3 System.out....
c语言float输入格式,[讨论]关于float类型的数组输入
[讨论]关于float类型的数组输入以下是几个简单的测试程序:1.#include "stdio.h"int main(void){int i=1;int j=2;int a[3][3];scanf("%d",&a[i][j]);printf("%d",a[i][j]);return 0;}2.#include "stdio.h"int ...
关于Float.MIN_VALUE 和 Float.MAX_VALUE
关于Float.MIN_VALUE 和 Float.MAX_VALUE
关于float数值出现1.QNAN处理
c++里面float数值出现1.QNAN 检测方法： bool is_float_valid(float f) {  //detect invalid float :1.QNAN  return((DWORD&)f & 0x7f800000) != 0x7f800000; }
硬件设计

6,125

社区成员

11,292

社区内容

发帖
与我相关
我的任务
社区描述
硬件/嵌入开发 硬件设计
社区管理员
  • 硬件设计社区
加入社区
  • 近7日
  • 近30日
  • 至今

加载中

查看更多榜单
社区公告
暂无公告

试试用AI创作助手写篇文章吧

+ 用AI写文章