111,126
社区成员
发帖
与我相关
我的任务
分享浮点数问题
float f1 = 0.3F;
float f2 = 0.4F;
Console.WriteLine(f1-f2);
输出结果-0.0999999
有什么办法解决这个问题没
float f2 = 0.4F;
Console.WriteLine(f1-f2);
输出结果-0.0999999
有什么办法解决这个问题没
...全文
请发表友善的回复…
发表回复
johnjun18 2012-05-29
- 打赏
- 举报
最近做一个小程序处理一些简单的小数，经常遇到这个问题。
看来flaot型运算得到的本就是近似值，再四舍五入，精度还不如手算了
[Quote=引用 1 楼 的回复:]
float 本身计算不准确，可以试试四舍五入
[/Quote]
看来flaot型运算得到的本就是近似值，再四舍五入，精度还不如手算了
[Quote=引用 1 楼 的回复:]
float 本身计算不准确，可以试试四舍五入
[/Quote]
__天涯寻梦 2012-05-29
- 打赏
- 举报
float 和 double 由于存储方式的问题计算时会不精确，如果要精确用 decimal 类型。
EnForGrass 2012-05-29
- 打赏
- 举报
float 本身计算不准确，可以试试四舍五入
