数值计算的问题

[sgpxd]

程序中需要计算一个百分比的值，公式为 ((a-b)/a) * 100。
但是该值在程序中计算的结果和用计算器计算的结果不一样。

请问是什么原因？怎么解决？

[波导终结者]

数值类型和精度问题呗，比如说你的a和b都是整型的，小数部分就丢了

[Justin-Liu]

引用 1 楼 alifriend 的回复:

数值类型和精度问题呗，比如说你的a和b都是整型的，小数部分就丢了

v

[微工程]

精度的长度和位数引起。

[sgpxd]

说明下，用的是decimal类型

另：用double和float都试过了。

[sgpxd]

(2.08 - 1.76) / 2.08
计算器算的是0.1538
程序里算的是0.1526

(2.08-1.77)/2.08
计算器的结果是0.1490
程序里是0.1502

[Justin-Liu]

引用 5 楼 sgpxd 的回复:

(2.08 - 1.76) / 2.08
计算器算的是0.1538
程序里算的是0.1526

(2.08-1.77)/2.08
计算器的结果是0.1490
程序里是0.1502

我算没有错啊 你用Compute计算

DataTable dt = new DataTable();
double t = Convert.ToDouble(dt.Compute("(2.08 - 1.76) / 2.08", ""));

[sgpxd]

因为从数据库中取出来的小数，莫名其妙的多出来2位。并且不是补零。