百分比计算结果四舍五入后产生误差的问题

jamduck 2006-10-31 02:41:20

field1/sum(field1)的结果如下:
0.110118920209076
0.123120558375449
0.553078513119643
0.0225479916592207
0.0534814654532814
0.00398192635151651
0.0341789060747162
0.0781190376038812
0.0213726811532166
现在想把它们格式化成#0%,结果如下:
11%
12%
55%
2%
5%
0%
3%
8%
2%
发现把格式化后的值全部加起来总和不是100%,怎么办?增加精度到#0.00%情况会好些,但只要有四舍五入存在就有可能出现误差...

...全文

986 3 打赏收藏举报

写回复

3 条回复

切换为时间正序

请发表友善的回复…

发表回复

jamduck 2006-10-31

打赏
举报

回复

似乎只能这样了

viena 2006-10-31

打赏
举报

回复

可以排序，把差额补上
如果差额正，从大到小
如果差额负，从小到大

全部加起来总和是98%
差2，正的，从最大的开始补
55% => 56%
12% => 13%

bitpolar 2006-10-31

打赏
举报

回复

譬如
33.33%
33.33%
33.33%

四舍五入肯定不到100%
这个肯定没办法吧

相关推荐

数值分析课件 2015xin 王兵团 - 数值分析整理数值分析 1. 数值分析的病态性是指因初始数据的微小变化导致计算结果的剧烈变化病态问题因初始数据微小变化导致计算结果剧烈变化的问题良态问题初始数据微小变化只引起计算结果微小变化的计算问题数值不稳定算法指算法进行计算的初始数据有误差而计算过程中产生的舍入误差不断增长例子 2. 误差的来源模型误差在数学建模时由于忽略了某些次要因素而产生

一组数据百分比的优化算法(js)在图表计算百分比时，经常遇到百分比的和不等于1。比如一组数据[1，1，1]，计算的百分比结果为 [33%, 33%, 33%]，百分比的和为99%，不等于1。计算百分比保留位数时经常需要四舍五入，从而产生误差，同时可能会出现百分比整体不为1的情况。我们可以依次调整误差较大的百分比，使百分比总和为1。以[3, 1, 5, 9]这组数据为例，具体步骤如下：计算出各项百分...

在开发中有这样的问题，就是需要在其他地方展示百分比，但是自己计算的百分比通过四舍五入后，与饼图里面的百分比不一致的问题，要想解决这个问题，那么必须要使用echarts源码中的计算方式。当存在四舍五入的时候,Echarts的百分比算法和自己写的百分比算法不同,导致相加后不等于100%.开发中从后端计算好即可解决问题。

https://juejin.cn/post/6927217000112455687 总结：0.1+0.2不等于0.3，因为在0.1+0.2在计算过程中，二进制浮点数问题发生了精度丢失，只能取到0.30000000000000004 可能导致的问题：浮点数计算不准确，例如300.01-300 解决：“可以用Math.js数学计算库来解决，或者用toFixed()给计算结果四舍五入，但是toFixed()在chrome或者火狐浏览器下四舍五入也有精度误差。可以用Math.round来解决精度误差，比如要把2.

计算数值时，因将一个数值由代码四舍五入改成SQL四舍五入做整数处理而产生了误差。该字段为varchar类型，修改后的计算结果与之前的结果当小数位为.5四舍五入进位时，竟然出现误差。例如2.5，当字段类型为varchar或double类型时，使用round函数，结果为2，而decimal则进位正常。执行SQL:SELECT c_varchar,round(c_varchar),c_doub...

发帖

10.9w+

社区成员

64.2w+

社区内容

.NET技术 C#

社区管理员

加入社区

帖子事件

创建了帖子

2006-10-31 02:41

社区公告

让您成为最强悍的C#开发者