• 全部
  • C#综合技术
  • C#互联网桌面应用
  • AppLauncher
  • WinForm&WPF
  • C#开发新技术
  • 问答

C#中这个整数乘以浮点数,为什么多出了个尾巴?

davexa 2021-07-07 10:54:09

Hi,

C#中代码片段如下:

int nStdWorkDays;
double dbStdWorkDaysMin;


            nStdWorkDays = 21;


            dbStdWorkDaysMin = nStdWorkDays * 0.9;
            //此时监视变量dbStdWorkDaysMin 的值,发现竟然是18.900000000000002,而非18.9!
            //结果造成 "18.9 < dbStdWorkDaysMin" 为true,逻辑走偏!

 

 这个简单的乘法,结果为什么多了个尾巴00000000000002?类似的坑还有哪些?该如何注意避免?谢谢!

...全文
335 点赞 收藏 12
写回复
12 条回复
切换为时间正序
请发表友善的回复…
发表回复

误差精度,是计算机原理。估计没有学原理课程。

比较这类大小要使用类似 double.Epsilon以及其它 XX.Epslion 之类的常量为阈值。

回复

计算机里绝大多数情况下无法准确表示一个浮点数
计算机是内部是二进制的,而人们所说的浮点数是10进制,必然涉及一个转换问题
10进制的0.1意思是1个东西,分为十份,取1份
而二进制数的0.1表示1个东西分两份,取1份,二进制的0.1是10进制的0.5。他们之间转换必有误差。

回复
低丶调 07-07

确实,这种精度问题好麻烦,看了一圈msdn,也是看的有点懵逼,以后都不敢用这些浮点了.... -_-

回复
davexa 07-07
@低丶调 哈哈。乘法好像更容易丢失精度。
回复
xuzuning 07-07

浮点数不能直接比较大小,应该检查他们的差是否在允许的范围内

回复 1

你还是使用decimal来进行运算吧,浮点数的四舍五入也是有问题的,在一定范围内,decimal还是精确的

回复 1
davexa 07-07

根据业务情境,加了一行代码如下,实现纠偏。
dbStdWorkDaysMin = Math.Round(dbStdWorkDaysMin, 1);

回复
古耕 07-07

不可能

回复 1
@古耕 没有什么不可能,我就碰上了,最后用的decimal
回复 1
davexa 07-07
@古耕 真实发生的哦。不信的话,将那几行代码编译运行一下看看。
回复
xuzuning 07-07

请先补习一下 浮点数 的知识

回复 1

将需要运算的两个变量定义为decimal,再进行运算

回复 1
相关推荐
发帖
C#
创建于2007-09-28

10.5w+

社区成员

.NET技术 C#
申请成为版主
帖子事件
创建了帖子
2021-07-07 10:54
社区公告

让您成为最强悍的C#开发者