社区
Web 开发
帖子详情
浮点运算的问题
galewithwing
2004-10-25 11:09:27
以前记得解决了这个问题的,可是后来又发现类似问题了,郁闷!
问题是:
我做一个统计,发现计算结果不对,
float a1;
float a2;
float a3
a1=9.0;
a2=14.4;
a3=a1*a2;
a3击过居然是:129.59999
要命!
我把a3改为 double,
居然是:129.59999084472656
怎么处理好啊?
这可是不能出问题的计算啊
谢谢了
...全文
85
8
打赏
收藏
浮点运算的问题
以前记得解决了这个问题的,可是后来又发现类似问题了,郁闷! 问题是: 我做一个统计,发现计算结果不对, float a1; float a2; float a3 a1=9.0; a2=14.4; a3=a1*a2; a3击过居然是:129.59999 要命! 我把a3改为 double, 居然是:129.59999084472656 怎么处理好啊? 这可是不能出问题的计算啊 谢谢了
复制链接
扫一扫
分享
转发到动态
举报
写回复
配置赞助广告
用AI写文章
8 条
回复
切换为时间正序
请发表友善的回复…
发表回复
打赏红包
galewithwing
2004-10-25
打赏
举报
回复
a3 = (float) a1*a2;
这种方式肯定不行;结果本来就是float型的,强制转换也没用啊
即使是 float + float 结果也会出问题!
虽然说有BigDecimal可以用,我觉得麻烦啊,开销太大
各位兄台有什么好的建议么?
wangnewton
2004-10-25
打赏
举报
回复
MARK
j2nix
2004-10-25
打赏
举报
回复
a3 = (float) a1*a2;
galewithwing
2004-10-25
打赏
举报
回复
嘿嘿
我就是想偷懒,不想看文档啊!
只能用java.math.BigDecimal来构造类型解决啊!
除非有第三方的包
给分
j2nix
2004-10-25
打赏
举报
回复
楼主找找吧,前两天刚有个同类的贴子。
net_jun
2004-10-25
打赏
举报
回复
刚刚那个函数内部还是用BigDecimal来实现的,就当我没答吧.呵呵...
net_jun
2004-10-25
打赏
举报
回复
a3=Arith.round(a1*a2,2)
denghan
2004-10-25
打赏
举报
回复
偶也遇到这样的问题:
1581*0.01f = 15.809999
晕哦
各位大侠有什么好的办法?
c51fps.lib
浮点运算
库
将此文件解压后放置到keil\lib目录下,可以解决keil不能进行
浮点运算
的
问题
。
stm32f4 浮点 DSP 运算效率不高
浮点 DSP 运算效率不高
问题
: 该
问题
由某客户提出,发生在 STM32F407IGT6 器件上。据其工程师讲述:由于在其产品中,需要使用STM32进行大量的浮点数以及浮点DSP运算,所以...没有体现出硬件
浮点运算
应有的运算能力。
OpenGL-自主高性能三维GIS平台架构与实现-第二季
使用对数深度(log depth )算法在GPU中 计算解决单浮点经纬计算
问题
2. 修改shader ,增加对(logDepth)算法支持3. 修改C++端代码,实现对shader数据的输入 20 DEM-数据结构优化 1.当下使用CPU端数据通过接口的方式...
stm32硬件浮点使用方法
这是在stm32中实现fft计算等
浮点运算
必须要先做的设置。我之前给的
浮点运算
例程,在此设置下,自己亲测是可用的,有
问题
的同学可以留言
深入剖析浮点存储及其运算规则
深入剖析浮点存储及其运算规则 在数学运算当中经常会涉及到判断两个数是否相等的情况 对于整数很好处理 A==B这样的一个语句就可以解决全部的
问题
但是对于浮点数是不同的
Web 开发
81,092
社区成员
341,716
社区内容
发帖
与我相关
我的任务
Web 开发
Java Web 开发
复制链接
扫一扫
分享
社区描述
Java Web 开发
社区管理员
加入社区
获取链接或二维码
近7日
近30日
至今
加载中
查看更多榜单
社区公告
暂无公告
试试用AI创作助手写篇文章吧
+ 用AI写文章