社区
汇编语言
帖子详情
郁闷的浮点
njtzj
2007-08-19 10:16:15
最近看了浮点资料,感觉他不管怎么样都是个大概的值,不能准确表示,四舍五入得正确值也是凭运气,以后不敢用了,怎么办啊?
...全文
135
6
打赏
收藏
郁闷的浮点
最近看了浮点资料,感觉他不管怎么样都是个大概的值,不能准确表示,四舍五入得正确值也是凭运气,以后不敢用了,怎么办啊?
复制链接
扫一扫
分享
转发到动态
举报
写回复
配置赞助广告
用AI写文章
6 条
回复
切换为时间正序
请发表友善的回复…
发表回复
打赏红包
drvite
2007-08-31
打赏
举报
回复
这儿是汇编板块啊,用FPU啊,80位来表示小数.精度够高了~~~
speeches
2007-08-28
打赏
举报
回复
浮点运算本来就是精度计算.
计算机是离散数学为基础的,靠,这个都学没明白,就研究浮点.勇气可嘉
liangbch
2007-08-28
打赏
举报
回复
一个整数(0- 2^52 ),总是可以用double 浮点数来准确表示,至于10进制小数,一般不能用double 型准确表示,可用double型数准确表示的小数的条件是:
f= b/a, b/a 是最简分数,a的质因数仅含有2,且a不能超过一定范围,如0.25=1/4,0.75=3/4,1.75=7/4,2.375=19/8
如果你用浮点数 做一个计算器,需要对结果进行调整,例
将a 转化为一个 包含4位小数的 字符串,sprintf("%.04f,(a+0.00005))
jhs1982419
2007-08-21
打赏
举报
回复
浮点类型的缺点就是精度方面的限制,但一般情况下它还是可以适应的 ,如果实际情况不允许时再想下其它的办法解决。
0黄瓜0
2007-08-21
打赏
举报
回复
double精确到小数点后十几位,绝大多数的应用都可满足了.
zara
2007-08-19
打赏
举报
回复
浮点的表示和运算就是有精度限制的啊, 不同的类型 (4 字节, 8 字节或内部的 10 字节) 的精度是不同的. 适应了, 就行了, 需要的时候可以通过使用更高精度的类型或算法来提升精度.
图像椒盐噪声滤波代码
代码编制倒不难,只是这个过程中,犯了一些低级错误,整了两天才调试成功,非常
郁闷
,心情糟糕透顶。 不过效果真心不错,去噪后图像细节基本没有变化。 调用非常简单,只有三个参数。需要一个双精度
浮点
指针pImage,...
PHP中两个float(
浮点
数)比较实例分析
最近在开发一个合同管理系统的时候,涉及到两个
浮点
数比较,算是把我
郁闷
惨了。 在N久以前,就不晓得从哪里听来的一个“不要用等号去比较
浮点
数”的“真理”,自己平时也在用,好像没有出现啥问题,可这次问题总算是...
MySQL 数据类型和运算符
Re: MySQL 数据类型和运算符 ============================= # 数据类型 整数类型:五种 TINY SMALL MEDIUM INT BIG
浮点
和定点小数类型:三种 FLOAT DOUBLE DECIMAL 日期与时间数据类型:五种 YEAR -1 字符串类型...
求
浮点
的小数部分函数
说到
浮点
又想到前阵一件
郁闷
的事 前阵项目中用到分解
浮点
的小数和整数部分用于显示 不知道为什么ads中编译的代码在显示 "."的时候居然是乱码 很是
郁闷
没办法使用库函数只能自己写 当时也没当回事,觉得很简单 ...
深入了解
浮点
精度(五,小于1的
浮点
存储)
上一章:深入了解
浮点
精度(四。严格精度的
浮点
运算) 我们在第二章里提到了一个观点是: 所有的
浮点
数都可以表示为1.xxxx *2^N,x只能表示0和1 ...然后就
郁闷
了,发现怎么着也转变不成1.xxxx *2^...
汇编语言
21,459
社区成员
41,602
社区内容
发帖
与我相关
我的任务
汇编语言
汇编语言(Assembly Language)是任何一种用于电子计算机、微处理器、微控制器或其他可编程器件的低级语言,亦称为符号语言。
复制链接
扫一扫
分享
社区描述
汇编语言(Assembly Language)是任何一种用于电子计算机、微处理器、微控制器或其他可编程器件的低级语言,亦称为符号语言。
社区管理员
加入社区
获取链接或二维码
近7日
近30日
至今
加载中
查看更多榜单
社区公告
暂无公告
试试用AI创作助手写篇文章吧
+ 用AI写文章