浮点运算精度

njgame777 2010-02-02 07:29:24
FLOAT 可以有七位有效数,输出时,只要保留六位对第七位进行四舍五入,输出的结果(不是内存)可以百分百正确

比如:
float f=123.456,虽然内存中不是123.456,但如果只输出六位有效数,输出的结果肯定是123.456.

但是经过运算呢?比如123.456 * 123.456,能保证他的结果第七位四舍五入,保留6位有效数的输出(不是内存)

的值百分百正确呢?怎么理解证明?
...全文
99 7 打赏 收藏 转发到动态 举报
写回复
用AI写文章
7 条回复
切换为时间正序
请发表友善的回复…
发表回复
njgame777 2010-02-03
  • 打赏
  • 举报
回复
[Quote=引用 2 楼 w_anthony 的回复:]
引用楼主 njgame777 的回复:
FLOAT 可以有七位有效数,输出时,只要保留六位对第七位进行四舍五入,输出的结果(不是内存)可以百分百正确

    比如:
    float f=123.456,虽然内存中不是123.456,但如果只输出六位有效数,输出的结果肯定是123.456.

但是经过运算呢?比如123.456 * 123.456,能保证他的结果第七位四舍五入,保留6位有效数的输出(不是内存)

的值百分百正确呢?怎么理解证明?


做一次运算可以保证,而做多次运算不能保证,因为运算过程中可能会有舍入。
LZ的需求是什么?要求浮点完全精确是做不到的,但要求同一份代码计算结果相同,是可以做到的,只是要自己设定浮点控制寄存器。

[/Quote]

我是想在减少有效位的情况下,保证百分百输出正确,这个尺寸怎么把握,包括多次计算以后的值
w_anthony 2010-02-03
  • 打赏
  • 举报
回复
[Quote=引用 3 楼 njgame777 的回复:]
引用 2 楼 w_anthony 的回复:
引用楼主 njgame777 的回复:
FLOAT 可以有七位有效数,输出时,只要保留六位对第七位进行四舍五入,输出的结果(不是内存)可以百分百正确

    比如:
    float f=123.456,虽然内存中不是123.456,但如果只输出六位有效数,输出的结果肯定是123.456.

但是经过运算呢?比如123.456 * 123.456,能保证他的结果第七位四舍五入,保留6位有效数的输出(不是内存)

的值百分百正确呢?怎么理解证明?


做一次运算可以保证,而做多次运算不能保证,因为运算过程中可能会有舍入。
LZ的需求是什么?要求浮点完全精确是做不到的,但要求同一份代码计算结果相同,是可以做到的,只是要自己设定浮点控制寄存器。



我是想在减少有效位的情况下,保证百分百输出正确,这个尺寸怎么把握,包括多次计算以后的值
[/Quote]

不好完全保证,毕竟每次计算都有误差,而误差会积累,如果计算次数非常多,就绝对保证不了了,如果次数不是很多,可以让中间变量都是double类型,最后结果用float。
jianghandaxue 2010-02-03
  • 打赏
  • 举报
回复
[Quote=引用 2 楼 w_anthony 的回复:]
引用楼主 njgame777 的回复:
FLOAT 可以有七位有效数,输出时,只要保留六位对第七位进行四舍五入,输出的结果(不是内存)可以百分百正确

    比如:
    float f=123.456,虽然内存中不是123.456,但如果只输出六位有效数,输出的结果肯定是123.456.

但是经过运算呢?比如123.456 * 123.456,能保证他的结果第七位四舍五入,保留6位有效数的输出(不是内存)

的值百分百正确呢?怎么理解证明?


做一次运算可以保证,而做多次运算不能保证,因为运算过程中可能会有舍入。
LZ的需求是什么?要求浮点完全精确是做不到的,但要求同一份代码计算结果相同,是可以做到的,只是要自己设定浮点控制寄存器。

[/Quote]


up
ls2141 2010-02-03
  • 打赏
  • 举报
回复
%.Nf你取第几位,自然会在那一位的后一位进行四舍五入运算的了
jyh_baoding 2010-02-03
  • 打赏
  • 举报
回复
看精度能否满足你的需要就足够了
w_anthony 2010-02-02
  • 打赏
  • 举报
回复
[Quote=引用楼主 njgame777 的回复:]
FLOAT 可以有七位有效数,输出时,只要保留六位对第七位进行四舍五入,输出的结果(不是内存)可以百分百正确

    比如:
    float f=123.456,虽然内存中不是123.456,但如果只输出六位有效数,输出的结果肯定是123.456.

但是经过运算呢?比如123.456 * 123.456,能保证他的结果第七位四舍五入,保留6位有效数的输出(不是内存)

的值百分百正确呢?怎么理解证明?
[/Quote]

做一次运算可以保证,而做多次运算不能保证,因为运算过程中可能会有舍入。
LZ的需求是什么?要求浮点完全精确是做不到的,但要求同一份代码计算结果相同,是可以做到的,只是要自己设定浮点控制寄存器。
hzy694358 2010-02-02
  • 打赏
  • 举报
回复
看不懂,沙发坐坐

16,466

社区成员

发帖
与我相关
我的任务
社区描述
VC/MFC相关问题讨论
社区管理员
  • 基础类社区
  • Web++
  • encoderlee
加入社区
  • 近7日
  • 近30日
  • 至今
社区公告

        VC/MFC社区版块或许是CSDN最“古老”的版块了,记忆之中,与CSDN的年龄几乎差不多。随着时间的推移,MFC技术渐渐的偏离了开发主流,若干年之后的今天,当我们面对着微软的这个经典之笔,内心充满着敬意,那些曾经的记忆,可以说代表着二十年前曾经的辉煌……
        向经典致敬,或许是老一代程序员内心里面难以释怀的感受。互联网大行其道的今天,我们期待着MFC技术能够恢复其曾经的辉煌,或许这个期待会永远成为一种“梦想”,或许一切皆有可能……
        我们希望这个版块可以很好的适配Web时代,期待更好的互联网技术能够使得MFC技术框架得以重现活力,……

试试用AI创作助手写篇文章吧