在运行过程老是产生误差，后来debug调试发现问题所在
比如：
double d1 ＝ 1235.2
double d2 ＝ 10.6
double d3 = d1-d2; //本应该d3=1224.6,调试发现d3=1224.5999999999999
然后d3作为接口参数之一送进去，在接口能运作是采用的是截位，直接把结果变成了1224.5，因此老是产生0.1的偏差
如果能让d3保证是1224.6，而不是1224.5999999999999
谢谢
-
等级
本版专家分：0结帖率 96.43% -
使用别人接口文件，其中一个参数是金额double类型，
在运行过程老是产生误差，后来debug调试发现问题所在
比如：
double d1 ＝ 1235.2
double d2 ＝ 10.6
double d3 = d1-d2; //本应该d3=1224.6,调试发现d3=1224.5999999999999
然后d3作为接口参数之一送进去，在接口能运作是采用的是截位，直接把结果变成了1224.5，因此老是产生0.1的偏差
如果能让d3保证是1224.6，而不是1224.5999999999999
谢谢展开阅读全文
-
等级
本版专家分：11800 -
保证不了，在上边截取的时候加一个比较小的数再转就可以了
-
等级
本版专家分：33509勋章
-
-
黄花
2014年7月 C/C++大版内专家分月排行榜第二
2014年5月 C/C++大版内专家分月排行榜第二
-
-
蓝花
2014年10月 C/C++大版内专家分月排行榜第三
2014年4月 C/C++大版内专家分月排行榜第三
-
-
浮点数都二进制和10进制都有误差的。 考虑用整数吧。
-
等级
本版专家分：0
-
那么
这是三方dll，接收的就是double类型，咋能使用整数？
-
等级
本版专家分：309 -
把dll返回值强转
-
等级
本版专家分：10483
-
d3=1224.5999999999999
这个值在精度误差允许返回类就是 1224.6，如果你需要有效数字，那么必须使用专门的舍入法。不能简单的截尾。
-
等级
本版专家分：40023勋章
-
- 蓝花 2014年11月 C/C++大版内专家分月排行榜第三
-
-
金额用整数表达更好，浮点就会带来这种问题。
-
等级
本版专家分：0
-
截尾 是第三方dll里面的逻辑，我没有办法改变了，
我送进去的参数值应该1224.6，但是变成了1224.59999999
再经过dll中截尾 ，就变样了，如果dll中四舍五入当然没有问题了，
我原来的方法就是加一个小一点的，传d3+0.05，这样就是1224.64999999，截位之后也是1224.6，
但是这方法感觉有点别扭，看看有没有更好的处理方法
-
等级
本版专家分：33509勋章
-
-
黄花
2014年7月 C/C++大版内专家分月排行榜第二
2014年5月 C/C++大版内专家分月排行榜第二
-
-
蓝花
2014年10月 C/C++大版内专家分月排行榜第三
2014年4月 C/C++大版内专家分月排行榜第三
-
-
等级
本版专家分：383930勋章
-
- 状元 2017年 总版技术专家分年内排行榜第一
-
- 榜眼 2014年 总版技术专家分年内排行榜第二
-
- 探花 2013年 总版技术专家分年内排行榜第三
-
-
进士
2018年总版新获得的技术专家分排名前十
2012年 总版技术专家分年内排行榜第七
-
-
http://bbs.csdn.net/topics/390676437
#include <stdio.h>
double d1 = 1235.2;
double d2 = 10.6;
double d3;
int main() {
d3=d1-d2;
printf("%lf\n",d3);
printf("%.15lf\n",d3);
printf("%lg\n",d3);
printf("\n");
d3=1224.5999999999999;
printf("%lf\n",d3);
printf("%.15lf\n",d3);
printf("%lg\n",d3);
return 0;
}
//1224.600000
//1224.600000000000100
//1224.6
//
//1224.600000
//1224.599999999999900
//1224.6
//
不要迷信书、考题、老师、回帖；
要迷信CPU、编译器、调试器、运行结果。
并请结合“盲人摸太阳”和“驾船出海时一定只带一个指南针。”加以理解。
任何理论、权威、传说、真理、标准、解释、想象、知识……都比不上摆在眼前的事实！
有人说一套做一套，你相信他说的还是相信他做的？
其实严格来说这个世界上古往今来所有人都是说一套做一套，不是吗？
不要写连自己也预测不了结果的代码！
作为一个C程序员，对
scanf,sscanf,fscanf
printf,sprintf,fprintf
这类函数的用法，还是要做到“拳不离手，曲不离口”的。
f double Signed value having the form [ – ]dddd.dddd, where dddd is one or more decimal digits. The number of digits before the decimal point depends on the magnitude of the number, and the number of digits after the decimal point depends on the requested precision.
g double Signed value printed in f or e format, whichever is more compact for the given value and precision. The e format is used only when the exponent of the value is less than –4 or greater than or equal to the precision argument. Trailing zeros are truncated, and the decimal point appears only if one or more digits follow it.
f The precision value specifies the number of digits after the decimal point. If a decimal point appears, at least one digit appears before it. The value is rounded to the appropriate number of digits. Default precision is 6; if precision is 0, or if the period (.) appears without a number following it, no decimal point is printed.
g, G The precision specifies the maximum number of significant digits printed. Six significant digits are printed, with any trailing zeros truncated.
- 对于double和float类型运算精度丢失，请使用BigDecimal
祝福之链接，基本用法 ...双精度浮点型变量double可以处理16位有效数。在实际应用中，需要对更大或者更小的数进行运算和处理。float和double只能用来做科学计算或者是工程计算，在商业计算中要用java.math.BigDeci
- BigDecimal类的加减乘除(解决double计算精度问题)
双精度浮点型变量double可以处理16位有效数。在实际应用中，需要对更大或者更小的数进行运算和处理。float和double只能用来做科学计算或者是工程计算，在商业计算中要用java.math.BigDecimal。BigDecimal所创建的是...
- double类型转BigDecimal 精度问题
例子： System.out.println(new BigDecimal(0.1).toString()); 输出：0.1000000000000000055511151231257827021181583404541015625 System.out.println(new BigDecimal("0.1").toString());...
- Double类型数据精度丢失问题
public BigDecimal(double val) 注： 此构造方法的结果有一定的不可预知性。有人可能认为在 Java 中写入 new BigDecimal(0.1) 所创建的 BigDecimal 正好等于 0.1（非标度值 1，其标度为 1），但是它实际上等于 0....
- 关于java中Double类型的运算精度问题
标题 在Java中实现浮点数的精确计算 AYellow（原作） 修改 关键字 Java 浮点数 精确计算 问题的提出： 如果我们编译运行下面这个程序会看到什么？ public class Test{ ...
- double类型精度损失问题
在十进制中小数有些是无法完整用二进制表示的。它们只能用有限位来表示，从而在存储时可能就会有误差。十进制的小数采用乘2取整法进行计算，去掉整数部分后，剩下的小数继续乘以2,直到小数部分全为0. ...
- double类型转int类型，精度丢失的问题
碰到一个问题，就是double类型在进行降级强转int类型的时候，发生了精度丢失。先来看一下现象 比如 double num1 = 49.99; int num2 = (int)(num1 *100); 输出后，num2 等于 4998 但是在num1 等于49.97或49....
- java中double类型数据加减操作精度丢失问题及解决方法
double类型数据加减操作精度丢失问题 今天在项目中用到double类型数据加减运算时，遇到了一个奇怪的问题，比如1+20.2+300.03，理论上结果应该是321.23，其实结果并不是这样。public double add() { double number1 ...
- C++、C中有关double、float类型转换成int型，及取整，丢失精度问题。
在C++中，我们会将double、float类型转换成int型，准确的说，将double、float类型取整
- float和double的精度和字节数各是多少
转载请注明原出处！ ...纠结这个问题很久了！今天终于有空把它整理一下!首先直接写答案：字节： float：4个字节 double：8个字节精度： float精度是：7~8位有效数字 ...Java 浮点数 float和double类型的表示范
- C#中，double类型的精度问题（最好都看看）
double类型的精度是15位，也就是说，它对数值的描述是有一个范围的，那么，超出这个范围，就会出现一个误差，这个误差，会造成数据计算的失误，大家或许会觉得，15位，足够用了，但其实不对，大家平常就会用到，注意...
- mysql sum 统计字段数值类型是double出现精度失真问题
最近在报表统计信息时候，统计的字段值都是double类型的小数，使用sum累计求和的时候，意外出现很多位的小数 解决方法:将字段值转为指定精度的decimal数值，在进行sum求和，例如cast (字段 as decimal(18,...
- String转double失去精度问题
最近遇到一个坑，19.9的字符串转double变成19.89，坑死我了。现在把更改后的代码贴出来 String s = "19.9"; BigDecimal temp = BigDecimal.valueOf(Double.valueOf(s)); // 将temp乘以100 temp = temp....
- c语言double类型printf问题
背景：今天在用c语言写程序时遇到了一个问题：printf("%lf",double(r))；...解释：double和float的精度是不同的，故存储空间也是不同的，所以如果要读入double类型，必须要用%lf来读入，以免精度丢失。而输出，由于...
- Qt - double转换QString, 并设置精度
double转换QString, 并设置精度 本文地址:http://blog.csdn.net/caroline_wendy Qt中, 很多函数都需要使用QString类型, double类转换QString类型, 使用QString::number()函数; 第一个参数为: 需要转换的double...
- Java中如何解决double和float精度不准的问题
我们知道浮点数是无法...在进行数字运算时，如果有double或float类型的浮点数参与计算，偶尔会出现计算不准确的情况。如以下示例代码： package ex; public class BigDeciTest { public static void main(String[] a
- Java（Double强转Int）精度丢失问题
问题：提现4515.23元，接口需要的这个提现金额是：int类型且单位是分在处理中出现了精度丢失： double num=4515.23 int numInt=(int)(num*100) 这个是强转后numInt=451522，少了1分钱（debug：(num*100)=451522....
- float与double的区别，以及float为什么要加f
单精度浮点数（float）与双精度浮点数（double）的区别如下： （1）在内存中占有的字节数不同 单精度浮点数（float）在机内占4个字节 双精度浮点数（double）在机内占8个字节 （2）有效数字位数不同 单精度...
- java float double精度为什么会丢失？浅谈java的浮点数精度问题
由于对float或double的使用不当，可能会出现精度丢失的问题。问题大概情况可以通过如下代码理解:public class FloatDoubleTest {public static void main(String[] args) {float f = 20014999;double d = f;double ...
- double类型数据做加和操作时会丢失精度问题处理
double类型的数据做加和操作 时会丢失精度，如下操作结果为： int a = 3; double b = 0.03; double c = 0.03; double d = a + b + c; System.out.println("first d:" + d); 结果：first d
- im2double的用法
im2double函数用于将图像转换为双精度。 语法形式有4种，分别是： I2 = im2double(I); RGB2 = im2double(RGB); I = im2double(BW); X2 = im2double(X, 'indexed'); 描述： I2 = im2double(I)将灰度图像I转换...
- double运算精度问题
题目： 下列表达式中，可以得到精确结果的是（） A.double d1 = 3.0 - 2.6; B.double d4 = 2.5 * 1.5;...a因为double用二进制计算，因为0.6转换成二进制有精度损失，所以计算结果为0.3999999999999999 c
- float,double,decimal彼此转换会出现的精度问题（今天你Bug了吗？）
大学时学的是C语言，虽然就没学会过，但对于float和double的描述还是记的很清楚，float和double因为采用科学记数法，会出现精度问题，要比较的话，应该是用两个的差值，取绝对值，如果该值小于某个数，你就可以认为...
- Hive损失精度
问题起因:hive中计算丢失精度.decimal默认整数.解决方案:cast (val as DECIMAL(38,10))
- Mysql的浮点精确度
1.mysql的用于记录小数的类型有三个float ,decimal 和double他们之间的关系 先创建一个表test都用了float ,decimal 和double 插入一条数据 再插入一条数据： 查看数据float的精度丢失 查看三个类型的范围： ...
- mysql中float、double、decimal的区别
float类型表示单精度浮点数值，double类型表示双精度浮点数值，float和double都是浮点型，而decimal是定点型； MySQL 浮点型和定点型可以用类型名称后加（M，D）来表示，M表示该值的总共长度，D表示小数点后面的...
- JAVA中float与double的区别
double是双精度类型，精度是15位有效数字，取值范围是10的-308次方到10的308次方，double占用8个字节的存储空间 当你不声明的时候，默认小数都用double来表示，所以如果要用float的话，则应该在其后加上f 例如：...
- 基本数据类型float和double的区别
double : 双精度浮点数 两者的主要区别如下： 01.在内存中占有的字节数不同 单精度浮点数在机内存占4个字节 双精度浮点数在机内存占8个字节 02.有效数字位数不同 单精度浮点数有效数字8位 双精度...
- String、Object转为double，不损失精度
今天需要用到经纬度，传值之后需要转为double，在网上找方法，偶然看到了，不正当转换可能会导致精度损失，所以特意找了一下不损失精度的方法，用BigDecimal。用法如下BigDecimal maxlng1 = new BigDecimal(jdwd.get...
- java double类型-加减乘除高精度运算
double类型-加减乘除高精度运算 // 进行加法运算 private double add(double v1,double v2){ BigDecimal b1 = new BigDecimal(Double.toString(v1)); BigDecimal b2 = new BigDecimal(Double....