社区
Java SE
帖子详情
如何设置浮点类型的精度?
猪小烧
2007-08-21 05:37:24
如何设置浮点类型的精度?
在JAVA里,不知道怎么去设置自己需要的浮点精度....................
求前辈指点
难道真的要转换为string再转回来?
...全文
341
5
打赏
收藏
如何设置浮点类型的精度?
如何设置浮点类型的精度? 在JAVA里,不知道怎么去设置自己需要的浮点精度.................... 求前辈指点 难道真的要转换为string再转回来?
复制链接
扫一扫
分享
转发到动态
举报
写回复
配置赞助广告
用AI写文章
5 条
回复
切换为时间正序
请发表友善的回复…
发表回复
打赏红包
猪小烧
2007-08-22
打赏
举报
回复
楼上的没看懂...............
APOLLO_TS
2007-08-21
打赏
举报
回复
A/1=A
B/1=B
C/1=C
看出门道来了吧!
将所得数除以new BigDecimal(1)就可以设置精度了,其中有5个主要的舍入方式。
基本够你用的!
就IBM也这么干的!
lip009
2007-08-21
打赏
举报
回复
public class Test {
public static void main(String args[]){
Test test=new Test();
System.out.println(test.setFloatPrecision(123.2563,"0.00"));
}
public String setFloatPrecision(double param,String format){
String result=null;
DecimalFormat d_format=new DecimalFormat(format);
result=d_format.format(param);
return result;
}
}
zdjray
2007-08-21
打赏
举报
回复
不过还是这样吧
import java.math.BigDecimal;
public class FloatFormatTest {
public static void main(String[] args) {
BigDecimal n = new BigDecimal("1234567.56789");
BigDecimal n2 = n.setScale(2, BigDecimal.ROUND_FLOOR);
System.out.println(n);
System.out.println(n2);
}
}
然后可以用BigDecimal的floatValue得到float
zdjray
2007-08-21
打赏
举报
回复
用Float类的
public static float intBitsToFloat(int bits)
C/C++中如何判断
浮点
类型
相等?
1.
浮点
类型
在计算中的存储格式 1.1. 小数的科学计数法 科学记数法是一种记数的方法。把一个数表示成a与10的n次幂相乘的形式(1≤|a|<10,a不为分数形式,n为整数),这种记数法叫做科学记数法。例如:19971400000000=1.99714×10^13。计算器或电脑表达10的幂是一般是用E或e,也就是1.99714E13=19971400000000。 1.2. 计算机中小数的存储格式 计算机中小数的存储格式依据IEEE 745标准制定,其有三种
精度
标准。分别为单
精度
、双
精度
以及扩展
精度
LabVIEW
浮点
型和双
精度
数据
类型
之间的
精度
差异是什么 为什么 在LabVIEW 中,
浮点
数 会 失去
精度
?
在上面提到的情况下,2.4 的二进制表示可能不完全是 2.4。需要说明的是,上述的例程和文档,都是可以下载的,双击即可打开,其中压缩文件是可以采用粘贴复制的方式,拷贝到硬盘上。LabVIEW
浮点
型和双
精度
数据
类型
之间的
精度
差异是什么 为什么 在LabVIEW 中,
浮点
数 会 失去
精度
?
浮点
型的变量只有 7 位
精度
,而双
精度
类型
的变量有 15 位
精度
。如果需要更好的
精度
,请使用双
精度
而不是
浮点
数。注意:float
类型
的变量只有大约 7 位
精度
,而双
精度
类型
的变量有大约 15 位
精度
。
什么是
浮点
型?什么是单
精度
浮点
数(float)以及双
精度
浮点
数(double)?
前言 作为一名“资深”的java学习者,怎能不懂这些java基础中的基础呢?本文就带各位温顾温顾java
浮点
型、单
精度
浮点
数、双
精度
浮点
数。
浮点
型
浮点
型
浮点
型别给我整些花里胡哨的定义,
浮点
型简单来说就是表示带有小数的数据,而恰恰小数点可以在相应的二进制的不同位置浮动,可能是这样就被定义成
浮点
型了。不得不佩服这文化程度,定义个数据名称都这么有深度 ...
深入了解
浮点
精度
(四。严格
精度
的
浮点
运算)
上一章:深入了解
浮点
精度
(三。
浮点
不准确) 如果你不严谨要求的话,
浮点
类型
自身的运算可以满足一些基本的需要, 但对于财务问题恐怕就不行了。为什么呢? 比如说double 100 = 99.999999999998 那么在购买的时候,一个商品卖了100元,你支付完成后,发现只支付了99.9999999998,这样恐怕就会引起一系列判断紊乱了。 如果严格控制
浮点
类型
的
精度
呢? 答案就是...
MySQL数据库中的
浮点
类型
和高
精度
类型
有什么区别?为什么不推荐使用
浮点
类型
?
在软件开发中,作为后端,无可避免的需要熟练使用 MySQL 数据库进行数据存储和读取。对于信息系统而言,数据库的的地位不言而喻。那作为软件开发工程师,在使用 MySQL 过程中,又有哪些需要注意的呢?我们从实际开发来一点点的介绍。本篇文章,我们先来了解一下关于数据库数字
类型
的一些内容。我们在做表设计的时候,数字
类型
是常见的数据
类型
,用于存储数字相关的信息(整数型、
浮点
型、高
精度
型)。但是在不同的业务场景中,错误的使用数字
类型
,也会给系统带来很大的风险。
Java SE
62,623
社区成员
307,257
社区内容
发帖
与我相关
我的任务
Java SE
Java 2 Standard Edition
复制链接
扫一扫
分享
社区描述
Java 2 Standard Edition
社区管理员
加入社区
获取链接或二维码
近7日
近30日
至今
加载中
查看更多榜单
社区公告
暂无公告
试试用AI创作助手写篇文章吧
+ 用AI写文章