社区
Java SE
帖子详情
double计算的问题...
wpphtqy
2006-12-30 04:20:21
double型计算时出现这种情况.
结果是这样的:7.4948E7.
是不是数太大了啊?
double类型不支持了啊?
...全文
75
4
打赏
收藏
double计算的问题...
double型计算时出现这种情况. 结果是这样的:7.4948E7. 是不是数太大了啊? double类型不支持了啊?
复制链接
扫一扫
分享
转发到动态
举报
写回复
配置赞助广告
用AI写文章
4 条
回复
切换为时间正序
请发表友善的回复…
发表回复
打赏红包
fool_leave
2007-01-03
打赏
举报
回复
不过不知道这个BigDecimal类,有没有最大数的限制啊???
似乎没有,没注意到有最大数的说法
如果是按照double*10^n这种方式存储的话,n也有最大数,所以肯定会有上限的,只不过这个上限非常大
wpphtqy
2006-12-30
打赏
举报
回复
我给的分够多吧?因为只有一个人回了.呵呵呵.希望还可以给我回复.虽然帖子已经结了.
wpphtqy
2006-12-30
打赏
举报
回复
谢谢了啊...
我本来有一个精确计算的类,是用BigDecimal的.
不过最后处理的还是返回double类型的,因此我用那个类也解决不了问题.
居然没想到可以直接用BigDecimal.
呵呵呵.
不过不知道这个BigDecimal类,有没有最大数的限制啊???
fool_leave
2006-12-30
打赏
举报
回复
数太大了
用BigDecimal吧
MT5 非区间均线回归刷单EA教学
double
区间最高价= 数据.求区间最高价(Symbol(),应用周期,MODE_CLOSE,0,区间根数);
double
区间最低价= 数据.求区间最低价(Symbol(),应用周期,MODE_CLOSE,0,区间根数); bool...
Double
计算
结果精度出错
问题
以及解决方法
出现这些
问题
的原因是:
double
在
计算
加减的时候会先把十进制数转换为二进制,转换的方法如下图 对于某些十进制小数,转换为二进制的时候,会转换为无线循环小数,例如0.9,可以使用上图的方法进行转换,但是
double
...
double
计算
时精度损失
计算
double
类型的数时有时候会多出0.000000001,会有不确定个数的0,在
计算
时将其转为BigDecimal就不会出错。 BigDecimal sum = new BigDecimal(0.0); BigDecimal tmp = new BigDecimal(0.0); for(int i=0; i&...
深入学习java源码之
Double
.parse
Double
()与
Double
.valueOf()
深入学习java源码之
Double
.parse
Double
()与
Double
.valueOf()
Double
类是原始类型
double
的包装类,它包含若干有效处理
double
值的方法,如将其转换为字符串表示形式,反之亦然。
Double
类的对象可以包含一个
double
值...
double
计算
不准
问题
在
double
类型数值进行运算时会出现结果值和预期不一致的情况,如下图所示: 为啥 b + a1 结果会是:2.5999999999999996呢, 因为在运算时,是先转换成机器数在运算,也就是二进制。但在转换成二进制的时候,存储...
Java SE
62,614
社区成员
307,327
社区内容
发帖
与我相关
我的任务
Java SE
Java 2 Standard Edition
复制链接
扫一扫
分享
社区描述
Java 2 Standard Edition
社区管理员
加入社区
获取链接或二维码
近7日
近30日
至今
加载中
查看更多榜单
社区公告
暂无公告
试试用AI创作助手写篇文章吧
+ 用AI写文章