我试验发现其实这就是个简单的类型转换问题同一个数~float可以向double自动提升,由原来的4个字节变8个字节产生类位数扩展,所以出现精度问题,其实是自动补位造成的~~float f = 127.1f;
double d = f;
ystem.out.println(d);
输出结果是:127.0999984741211
double向float转换时,是强制类型转换~有8个字节强制变4个字节~那它就强制丢弃后4个字节,你就是强制丢失精度,所以不会出现小数点很多的情况 double d = 3.14; float f = (float)d; System.out.println(f); 输出结果是:3.14;
由此看来基础真的是太重要啦
不知道我分析的对不对~初学,希望给位多加指正
/**
* 提供了(相對)精確的除法運算,當發生除不儘的情況時,由scale參數指定
* 精度,以後的數字四捨五入
* @param args
*/
public static double div(double v1, double v2, int scale) {
if (scale < 0) {
throw new IllegalArgumentException(
"The scale must be a positive integer or zero");
}
BigDecimal b1 = new BigDecimal(Double.toString(v1));
BigDecimal b2 = new BigDecimal(Double.toString(v2));
return b1.divide(b2, scale, BigDecimal.ROUND_HALF_UP).doubleValue();
}
/**
* 提供了精確的小數位四捨五入處理
* @param args
*/
public static double round(double v, int scale) {
if (scale<0) {
throw new IllegalArgumentException("The scale must be a positive integer or zero");
}
BigDecimal b = new BigDecimal(Double.toString(v));
BigDecimal one = new BigDecimal("1");
return b.divide(one, scale, BigDecimal.ROUND_HALF_DOWN).doubleValue();
}