16,471
社区成员
发帖
与我相关
我的任务
分享精度控制（double)
有几个数据经过相同数据的乘和加以后放到一个double数组里，结果数组里的第一个和第二个数据完全一致（-173.2050807568877），而数组中的第三个数据变成了
（-173.20508075688772）<多了最后一位小数>。
是不是和double的精度有关系？还是和cpu浮点数运算有关系？为什么第二个数据不会多最后一位小数？我如果想把精度控制在n为以内如何控制？
（-173.20508075688772）<多了最后一位小数>。
是不是和double的精度有关系？还是和cpu浮点数运算有关系？为什么第二个数据不会多最后一位小数？我如果想把精度控制在n为以内如何控制？
...全文
请发表友善的回复…
发表回复
lhj0532 2004-04-23
- 打赏
- 举报
那为什么（-173.2050807568877），（-173.20508075688772）<多了最后一位小数>。
syy64 2004-04-23
- 打赏
- 举报
设及到误差传播规律，两数相加减，精度不变，两数相乘除精度有所变化。
lhj0532 2004-04-23
- 打赏
- 举报
急！！！
lhj0532 2004-04-23
- 打赏
- 举报
老大们，赶快帮帮我吧。都三天了，我还没有搞定。谢谢！！！
lhj0532 2004-04-22
- 打赏
- 举报
我得出来的数据还要进行以后的计算。
carbon107(<软件开发思想.h>) 的意思是
double->string->double？？？
carbon107(<软件开发思想.h>) 的意思是
double->string->double？？？
carbon107 2004-04-22
- 打赏
- 举报
那就截取你想要的数据
lhj0532 2004-04-22
- 打赏
- 举报
双精度浮点数有效位是十五位，关键是如何处理这个随机数？我不想要这个随机数
syy64 2004-04-22
- 打赏
- 举报
双精度浮点数有效位是十六位数，后面的数都是随机数，很简单的问题
tangshiping 2004-04-22
- 打赏
- 举报
支持一把
