社区
C#
帖子详情
浮点数问题
johnjun18
2012-05-29 08:08:49
float f1 = 0.3F;
float f2 = 0.4F;
Console.WriteLine(f1-f2);
输出结果-0.0999999
有什么办法解决这个问题没
...全文
44
3
打赏
收藏
浮点数问题
float f1 = 0.3F; float f2 = 0.4F; Console.WriteLine(f1-f2); 输出结果-0.0999999 有什么办法解决这个问题没
复制链接
扫一扫
分享
转发到动态
举报
写回复
配置赞助广告
用AI写文章
3 条
回复
切换为时间正序
请发表友善的回复…
发表回复
打赏红包
johnjun18
2012-05-29
打赏
举报
回复
最近做一个小程序处理一些简单的小数,经常遇到这个问题。
看来flaot型运算得到的本就是近似值,再四舍五入,精度还不如手算了
[Quote=引用 1 楼 的回复:]
float 本身计算不准确,可以试试四舍五入
[/Quote]
__天涯寻梦
2012-05-29
打赏
举报
回复
float 和 double 由于存储方式的问题计算时会不精确,如果要精确用 decimal 类型。
EnForGrass
2012-05-29
打赏
举报
回复
float 本身计算不准确,可以试试四舍五入
C#
浮点数
和16进制字节数互相转换
该代码可以实现单精度
浮点数
和16进制字符之间的转换,包含源代码
单精度&双精度
浮点数
与十六进制数相互转换
浮点数
和十六进制数的相互转换,包括:1.单精度
浮点数
(32位)和十六进制数的相互转换,2.双精度
浮点数
(64位)和十六进制数的相互转换。
Modbus协议讲解及实现
5、掌握Modbus协议下,负数,
浮点数
等处理方法。 讲师简介 许孝刚,山东大学工程硕士,副高职称,技术总监。 10多年丰富嵌入式系统开发经验,国家软考“嵌入式系统设计师”。 2017年获得“华为开发者社区杰出贡献者...
浮点数
转换4字节十六进制工具
本工具可以将
浮点数
转换为4个字节的十六进制数。同样也可以逆转换。适用于将单片机数据还原显示 是搞上位机不错的工具。
C#
浮点数
问题
C#
浮点数
问题
示例: 解决方案是使用【decimal】 //双
浮点数
计算失精
问题
示例 double x = 300.2; double y = 300; Console.WriteLine("double计算"+(x - y)); //双
浮点数
计算失精
问题
解决示例 decimal d1 = ...
C#
110,536
社区成员
642,577
社区内容
发帖
与我相关
我的任务
C#
.NET技术 C#
复制链接
扫一扫
分享
社区描述
.NET技术 C#
社区管理员
加入社区
获取链接或二维码
近7日
近30日
至今
加载中
查看更多榜单
社区公告
让您成为最强悍的C#开发者
试试用AI创作助手写篇文章吧
+ 用AI写文章