社区
Web 开发
帖子详情
浮点运算的问题
galewithwing
2004-10-25 11:09:27
以前记得解决了这个问题的,可是后来又发现类似问题了,郁闷!
问题是:
我做一个统计,发现计算结果不对,
float a1;
float a2;
float a3
a1=9.0;
a2=14.4;
a3=a1*a2;
a3击过居然是:129.59999
要命!
我把a3改为 double,
居然是:129.59999084472656
怎么处理好啊?
这可是不能出问题的计算啊
谢谢了
...全文
97
8
打赏
收藏
浮点运算的问题
以前记得解决了这个问题的,可是后来又发现类似问题了,郁闷! 问题是: 我做一个统计,发现计算结果不对, float a1; float a2; float a3 a1=9.0; a2=14.4; a3=a1*a2; a3击过居然是:129.59999 要命! 我把a3改为 double, 居然是:129.59999084472656 怎么处理好啊? 这可是不能出问题的计算啊 谢谢了
复制链接
扫一扫
分享
转发到动态
举报
写回复
配置赞助广告
用AI写文章
8 条
回复
切换为时间正序
请发表友善的回复…
发表回复
打赏红包
galewithwing
2004-10-25
打赏
举报
回复
a3 = (float) a1*a2;
这种方式肯定不行;结果本来就是float型的,强制转换也没用啊
即使是 float + float 结果也会出问题!
虽然说有BigDecimal可以用,我觉得麻烦啊,开销太大
各位兄台有什么好的建议么?
wangnewton
2004-10-25
打赏
举报
回复
MARK
j2nix
2004-10-25
打赏
举报
回复
a3 = (float) a1*a2;
galewithwing
2004-10-25
打赏
举报
回复
嘿嘿
我就是想偷懒,不想看文档啊!
只能用java.math.BigDecimal来构造类型解决啊!
除非有第三方的包
给分
j2nix
2004-10-25
打赏
举报
回复
楼主找找吧,前两天刚有个同类的贴子。
net_jun
2004-10-25
打赏
举报
回复
刚刚那个函数内部还是用BigDecimal来实现的,就当我没答吧.呵呵...
net_jun
2004-10-25
打赏
举报
回复
a3=Arith.round(a1*a2,2)
denghan
2004-10-25
打赏
举报
回复
偶也遇到这样的问题:
1581*0.01f = 15.809999
晕哦
各位大侠有什么好的办法?
stm32f1 M3 浮点快速运算库
为了解决这一
问题
,开发者通常会采用优化的
浮点运算
库来提升性能。 "stm32f1 M3 浮点快速运算库"就是针对这种情况设计的,它利用汇编语言编写,直接针对Cortex-M3的硬件特性进行优化。汇编语言编程能够充分利用...
stm32f4 浮点 DSP 运算效率不高
浮点 DSP 运算效率不高
问题
: 该
问题
由某客户提出,发生在 STM32F407IGT6 器件上。据其工程师讲述:由于在其产品中,需要使用STM32进行大量的浮点数以及浮点DSP运算,所以...没有体现出硬件
浮点运算
应有的运算能力。
2.6
浮点运算
方法和
浮点运算
器
3.
浮点运算
器的结构和实现方法:
浮点运算
器通常采用流水线结构实现,每个流水线阶段负责一部分运算操作。
浮点运算
器的设计需要考虑精度、速度、功耗等方面的权衡。4.误差分析和处理:由于浮点数的表示精度有限,浮点...
浮点运算
计算机在线,
浮点运算
浮点运算
就是实数运算,因为计算机只能存储整数,所以实数都是约数,这样
浮点运算
是很慢的而且会有误差。大多数机器都是32位的,也就是说32位都用来表示整数的话,那么对于无符号整数就是0 到 2^32-1,对于有符号的...
S3C2440裸机编译不支持
浮点运算
问题
记录
软件版本:练习程序 例程路径:F:\code\004 硬件平台:JZ2440(S3C2440) /*******************************************************************************************************************...(1)硬浮点...
Web 开发
81,115
社区成员
341,737
社区内容
发帖
与我相关
我的任务
Web 开发
Java Web 开发
复制链接
扫一扫
分享
社区描述
Java Web 开发
社区管理员
加入社区
获取链接或二维码
近7日
近30日
至今
加载中
查看更多榜单
社区公告
暂无公告
试试用AI创作助手写篇文章吧
+ 用AI写文章