4.1*100.0f=409.99999999999994 的问题。求教！

2015-03-25 09:25:36 258 阅读 AI 写同款 · GEO 优化AI 选题数据监测一键分发 ›

R5F100LEAFA#V0 16位微控制器MCU R5F100LEAFA#30 R5F100LEAFA#V0 16位微控制器 - MCU RL78G13 64 + 4/4 64LQFP 安装风格：SMD / SMT 封装/箱体：LFQFP-64 系列：RL78 / G13 核心：RL78 数据总线宽度：16位最大时钟频率：32 MHz 程序存储器大小：64 kB 数据RAM大小：4 kB ADC分辨率：8位，10位输入/输出端数量：58 I / O. 工作电源电压：1... 阅读详情

如图。发现软件计算出的金额，有时候会错误，才发现是这里的问题，我完全没有头绪，为什么会这样？

改为float就没这问题了，但是百思不得其解啊

...全文

tkinter表格进阶：5分钟实现CSV数据可视化编辑界面（含右键菜单配置）本文详细介绍了如何使用Python的tkintertable库快速构建CSV数据可视化编辑界面。通过导入导出CSV数据、深度定制右键菜单（如复制、插入行、删除行）以及实现单元格验证等进阶功能，开发者能在5分钟内创建一个可嵌入自动化流程的专业级桌面数据编辑工具，显著提升数据处理效率。阅读详情

yfl168648

C# 111,129 成员 642,539 内容

+ 关注 + 加入社区

切换为时间正序

娃都会打酱油了 2015-03-25

打赏
举报

var x = 100.111d * 100.1f;
            var y = 100.111d * 100.1f;
            Console.WriteLine((double)100.1f);
            Console.WriteLine(x);
            Console.WriteLine(y);
            Console.WriteLine(x == y);
            x = 100.111d * 100.1d;
            y = 100.111d * 100.1d;
            Console.WriteLine(x);
            Console.WriteLine(y);
            Console.WriteLine(x == y);

我做了个实验，只要相同类型，就不存在精度问题，但一旦强转（隐式转换）就会有精度问题

yfl168648 2015-03-25