请教(new Double("0.0010")).doubleValue() 为 0.0010的问题(double数字精度问题)

muiz 2005-01-07 02:43:38

double data = 0.001;
Double doubleObj = new Double(data);
System.out.println(doubleObj.doubleValue());
--------
打印结果: 0.0010
--------
我跟踪的时候把doubleObj中的value改为0.001,但是改不过来.还是打印出0.0010.
这样如何是好?

...全文

171 4 打赏收藏转发到动态举报

写回复

4 条回复

切换为时间正序

请发表友善的回复…

发表回复

muiz 2005-01-10

打赏
举报

回复

:(

wjsfr 2005-01-07

打赏
举报

回复

用BigDecimal依然是输出0.0010

muiz 2005-01-07

打赏
举报

回复

whyxx(永远成不了高手), 还是你呵,谢谢

和先前说的,用BigDecimal可以把那个0去调,但是我现在要的对象是Double,而不是String.
如何做?

whyxx 2005-01-07

打赏
举报

回复

先转换成BigDecimal,再输出.

1.主要面向有一定基础的学员； 2.想编写EA苦于不知道如何下手的学员！... 包裹均线=小均值[0]<区间最高价&&小均值[0]>区间最低价&&大均值[0]<区间最高价&&大均值[0]>区间最低价;

背景在java中float赋值给double，会产生精度问题。float a = 2.1f;double b = 3.3;b = a;System.out.println(b);输出为2.0999999046325684。小数的二进制表示问题首先我们要搞清楚下面两个问题：十进制整数如何转化为二进制数算法很简单。举个例子，11表示成二进制数：11/2=5 余 15/2=2 余 12/2=...

转自：http://hi.baidu.com/bebeq/item/8589e29b63dc9adb7b7f01a6 float与double的范围和精度 1 范围 float和double的范围是由指数的位数来决定的。 float的指数位有8位，而double的指数位有11位，分布如下： float： 1bit（符号位） 8bits（指数位）

using System.Runtime.InteropServices;using System.Globalization;namespace System{ [StructLayout(LayoutKind.Sequential), Serializable,ComVisible(true)] public struct Double : System.IComparable, ...

1 范围 float和double的范围是由指数的位数来决定的。 float的指数位有8位，而double的指数位有11位，分布如下： float： 1bit（符号位） 8bits（指数位） 23bits（尾数位） double： 1bit（符号位） 11bits（指数位） 52bits（尾数位）在数学中，特别是在计算机相关的数字（浮点数）问题的表述中，有...

62,614

社区成员

307,319

社区内容

发帖

与我相关

我的任务

社区管理员

加入社区

近7日
近30日
至今

加载中

查看更多榜单

社区公告

暂无公告

试试用AI创作助手写篇文章吧

+ 用AI写文章