DecimalFormat的精度问题

fanlyfly_yang 2010-04-06 03:26:25

java.text.DecimalFormat df =new java.text.DecimalFormat("##.####");
String num = "777777777777.3300";
System.out.println(df.format(Float.parseFloat(num)).toString());
结果却是777777774592，我需要的结果是777777777777.33，即是最多保留最多四位小数，尾数为0的去掉
不知什么原因，而且对DecimalFormat方法不是很熟悉,查api说的也不是很清楚

...全文

105 1 打赏收藏转发到动态举报

写回复

1 条回复

切换为时间正序

请发表友善的回复…

发表回复

ZRBRZB 2010-04-06

打赏
举报

回复

这么大的数，还没溢出？float是32位的，表示不了这么大的数吧

相关推荐

DecimalFormat精度解决，商业运算精度问题,BigDecimal类的应用--------------

我们知道double类型在进行处理时会涉及到精度丢失问题比如 double d=100*1.005; 结果d的结果为100.49999999999999 怎么解决这种问题呢，用DecimalFormat，它对double类型的进行四舍五入处理用法如下： DecimalFormat df=new DecimalFormat(pattern); String nums=df.forma

JAVA 中除法后小数精度问题 import java.text.DecimalFormat; DecimalFormat df = new DecimalFormat("###.000"); df.format((double)100/3); //33.333

课程的核心是开发一个基于OpenCV的“精度测量”项目。首先就是需要说明“什么是精度测量项目”，“精度测量的难点在哪里”，“精度测量的价值是什么，可用于哪些地方”？我们将围绕这若干问题的解决，展开全面的教学。

本视频教学课程主要讲解经验误差与过拟合问题，学习器的评估方法(留出法，交叉验证法，自助法，调参与终模型)，性能度量（错误率与精度，查准率和查全率，ROC与AUV，代价敏感错误率与代价曲线），比较检验（假设检验，交叉t检验，其他检验），偏差与反差等知识点。

62,566

社区成员

307,520

社区内容

发帖

与我相关

我的任务

社区管理员

加入社区

近7日
近30日
至今

加载中

查看更多榜单

社区公告

暂无公告