郁闷的浮点

njtzj 2007-08-19 10:16:15
最近看了浮点资料,感觉他不管怎么样都是个大概的值,不能准确表示,四舍五入得正确值也是凭运气,以后不敢用了,怎么办啊?
...全文
135 6 打赏 收藏 转发到动态 举报
写回复
用AI写文章
6 条回复
切换为时间正序
请发表友善的回复…
发表回复
drvite 2007-08-31
  • 打赏
  • 举报
回复
这儿是汇编板块啊,用FPU啊,80位来表示小数.精度够高了~~~
speeches 2007-08-28
  • 打赏
  • 举报
回复
  浮点运算本来就是精度计算.
  计算机是离散数学为基础的,靠,这个都学没明白,就研究浮点.勇气可嘉
liangbch 2007-08-28
  • 打赏
  • 举报
回复
一个整数(0- 2^52 ),总是可以用double 浮点数来准确表示,至于10进制小数,一般不能用double 型准确表示,可用double型数准确表示的小数的条件是:
f= b/a, b/a 是最简分数,a的质因数仅含有2,且a不能超过一定范围,如0.25=1/4,0.75=3/4,1.75=7/4,2.375=19/8

如果你用浮点数 做一个计算器,需要对结果进行调整,例
将a 转化为一个 包含4位小数的 字符串,sprintf("%.04f,(a+0.00005))
jhs1982419 2007-08-21
  • 打赏
  • 举报
回复
浮点类型的缺点就是精度方面的限制,但一般情况下它还是可以适应的 ,如果实际情况不允许时再想下其它的办法解决。
0黄瓜0 2007-08-21
  • 打赏
  • 举报
回复
double精确到小数点后十几位,绝大多数的应用都可满足了.
zara 2007-08-19
  • 打赏
  • 举报
回复
浮点的表示和运算就是有精度限制的啊, 不同的类型 (4 字节, 8 字节或内部的 10 字节) 的精度是不同的. 适应了, 就行了, 需要的时候可以通过使用更高精度的类型或算法来提升精度.

21,459

社区成员

发帖
与我相关
我的任务
社区描述
汇编语言(Assembly Language)是任何一种用于电子计算机、微处理器、微控制器或其他可编程器件的低级语言,亦称为符号语言。
社区管理员
  • 汇编语言
加入社区
  • 近7日
  • 近30日
  • 至今
社区公告
暂无公告

试试用AI创作助手写篇文章吧