浮点运算的问题

galewithwing 2004-10-25 11:09:27

以前记得解决了这个问题的，可是后来又发现类似问题了，郁闷！
问题是：
我做一个统计，发现计算结果不对，
float a1;
float a2;
float a3
a1=9.0;
a2=14.4;
a3=a1*a2;

a3击过居然是：129.59999
要命！
我把a3改为 double,
居然是：129.59999084472656

怎么处理好啊？
这可是不能出问题的计算啊
谢谢了

...全文

88 8 打赏收藏转发到动态举报

写回复

8 条回复

切换为时间正序

请发表友善的回复…

发表回复

galewithwing 2004-10-25

打赏
举报

回复

a3 = (float) a1*a2;
这种方式肯定不行；结果本来就是float型的，强制转换也没用啊
即使是 float + float 结果也会出问题！
虽然说有BigDecimal可以用，我觉得麻烦啊，开销太大
各位兄台有什么好的建议么？

wangnewton 2004-10-25

打赏
举报

回复

MARK

j2nix 2004-10-25

打赏
举报

回复

a3 = (float) a1*a2;

galewithwing 2004-10-25

打赏
举报

回复

嘿嘿
我就是想偷懒，不想看文档啊！
只能用java.math.BigDecimal来构造类型解决啊！
除非有第三方的包
给分

j2nix 2004-10-25

打赏
举报

回复

楼主找找吧，前两天刚有个同类的贴子。

net_jun 2004-10-25

打赏
举报

回复

刚刚那个函数内部还是用BigDecimal来实现的,就当我没答吧.呵呵...

net_jun 2004-10-25

打赏
举报

回复

a3=Arith.round(a1*a2,2)

denghan 2004-10-25

打赏
举报

回复

偶也遇到这样的问题:
1581*0.01f = 15.809999
晕哦
各位大侠有什么好的办法?

stm32f1 M3 浮点快速运算库，采用汇编指令编写的运算库，浮点运算速度，比默认的库速度更快。可以直接包含文件中使用。

浮点 DSP 运算效率不高问题：该问题由某客户提出，发生在 STM32F407IGT6 器件上。据其工程师讲述：由于在其产品中，需要使用STM32进行大量的浮点数以及浮点DSP运算，所以针对STM32的浮点数运算能力及 DSP 运算能力做了相关的测试，但测试结果不理想。STM32F407 在144MHz 主频下，对于表（一）程序的运算耗时为：9105uS。没有体现出硬件浮点运算应有的运算能力。

1.浮点数的表示方法和规范：浮点数采用科学计数法表示，分为符号位、尾数和指数三部分。IEEE 754是目前最常用的浮点数规范。2.浮点数的运算原理：浮点数加减法的原理是对齐、舍入、加减，乘法的原理是对阶、相乘、规格化，除法的原理是对阶、除、规格化。3.浮点运算器的结构和实现方法：浮点运算器通常采用流水线结构实现，每个流水线阶段负责一部分运算操作。浮点运算器的设计需要考虑精度、速度、功耗等方面的权衡。4.误差分析和处理：由于浮点数的表示精度有限，浮点运算可能会引入误差。

浮点运算就是实数运算，因为计算机只能存储整数，所以实数都是约数，这样浮点运算是很慢的而且会有误差。大多数机器都是32位的，也就是说32位都用来表示整数的话，那么对于无符号整数就是0 到 2^32-1，对于有符号的话就是-2^31 到 2^31-1。中文名浮点运算外文名floating point arithmetic性质实数运算原因计算机只能存储整数特点实数都是约数浮点运算...

一：早期ARM上的浮点模拟器：早期的ARM没有协处理器，所以浮点运算是由CPU来模拟的，即所需浮点运算均在浮点运算模拟器（float math emulation）上进行，需要的浮点运算，常要耗费数千个循环才能执行完毕，因此特别缓慢。直到今天，在ARM Kernel配置时，都有如下选项：Floating point emulation --->[ ] NWFPE math emulation[ ] FastFPE math emulation (EXPERIMENTAL) 在这里，可以配置ARM 浮点模拟

81,122

社区成员

341,744

社区内容

发帖

与我相关

我的任务

社区管理员

加入社区

近7日
近30日
至今

加载中

查看更多榜单

社区公告

暂无公告

试试用AI创作助手写篇文章吧

+ 用AI写文章