Convert.toString( float-float) 出错

bill15021200 2010-07-07 10:22:45
Convert.ToString(float.Parse(discInfo.Pmoney) - float.Parse(disc.Price) * disc.Number);

discInfo.Pmoney=102000
disc.Price=10.2
disc.Number=10000

算出来的结果“-0.003814697” 而不是0 如果 得出来的值不是0那就正常~..

请高手 解决!...
...全文
128 9 打赏 收藏 转发到动态 举报
写回复
用AI写文章
9 条回复
切换为时间正序
请发表友善的回复…
发表回复
bill15021200 2010-07-07
  • 打赏
  • 举报
回复
先谢过各位了, 又多学了个地方~..
bill15021200 2010-07-07
  • 打赏
  • 举报
回复
OK 解决... 不过我试验了下吧
Convert.ToString(float.Parse(discInfo.Pmoney) - float.Parse(disc.Price) * disc.Number);
拆开写 就可以了~.....
得出来就是0
nocallstle 2010-07-07
  • 打赏
  • 举报
回复
Convert.ToString((decimal)102000 - (decimal)10.2 * 10000) ==0.0
YISUKU_LEE 2010-07-07
  • 打赏
  • 举报
回复
float 是近似值 不是精确值。
应该使用 decimal
nocallstle 2010-07-07
  • 打赏
  • 举报
回复
Convert.ToString(float.Parse(discInfo.Pmoney) - float.Parse(disc.Price) * disc.Number);

discInfo.Pmoney看你下面的赋值应该是float类型吧。那你上面可以直接 float.Parse?

Convert.ToString(float.Parse(102000.ToString()) - float.Parse(10.2.ToString()) * 10000)结果0.001907349
laukie 2010-07-07
  • 打赏
  • 举报
回复
强制转换肯定有问题的,你把精度低的向高的转换,必然会出现一些意向不到的结果
bill15021200 2010-07-07
  • 打赏
  • 举报
回复
[Quote=引用 1 楼 zgke 的回复:]
float里是 近似值 你可以使用 decimal

(decimal)discInfo.Pmoney - (decimal)disc.Price * (decimal)disc.Number;
[/Quote] 我试试....
zgke 2010-07-07
  • 打赏
  • 举报
回复
float里是 近似值 你可以使用 decimal

(decimal)discInfo.Pmoney - (decimal)disc.Price * (decimal)disc.Number;

62,041

社区成员

发帖
与我相关
我的任务
社区描述
.NET技术交流专区
javascript云原生 企业社区
社区管理员
  • ASP.NET
  • .Net开发者社区
  • R小R
加入社区
  • 近7日
  • 近30日
  • 至今
社区公告

.NET 社区是一个围绕开源 .NET 的开放、热情、创新、包容的技术社区。社区致力于为广大 .NET 爱好者提供一个良好的知识共享、协同互助的 .NET 技术交流环境。我们尊重不同意见,支持健康理性的辩论和互动,反对歧视和攻击。

希望和大家一起共同营造一个活跃、友好的社区氛围。

试试用AI创作助手写篇文章吧