1,075
社区成员
发帖
与我相关
我的任务
分享关于小数位的处理，急！
我的表单单价计算为小数点后6位，用计算列计算金额则四舍五入，计算出的金额与用单价乘数量计算出的金额，相差几个百分点，请高手支招！急呀！
...全文
请发表友善的回复…
发表回复
shengbingma 2004-07-17
- 打赏
- 举报
当你需要计算时，将数值型数据转换成字符型进行判断，就不存在四舍五入了，完成计算后，再转换回来。
losgou 2004-07-16
- 打赏
- 举报
给个不怎么合理，但比较有效的方法（如果你结果保留小数点后2位）
你想精确到什么程度呢？
（当然前提还要当你的数据不够很大）
单价 数量 金额
0.365*100 1 36.50
0.365*100 1 36.50
合计 73/100 73/100
也就是计算过程中将小数点后移n位计算，得到结果后移回去（不过处理要小心哦）
你想精确到什么程度呢？
（当然前提还要当你的数据不够很大）
单价 数量 金额
0.365*100 1 36.50
0.365*100 1 36.50
合计 73/100 73/100
也就是计算过程中将小数点后移n位计算，得到结果后移回去（不过处理要小心哦）
behrman 2004-07-16
- 打赏
- 举报
将界面显示的和数据计算的分开取值，但实际还是一个数据值，计算不出现大的误差，而显示的值却有误差，这样算出的结果是真实的，而显示的值是四舍五入的！
devotee2000 2004-07-16
- 打赏
- 举报
单价保留四位，金额为两位。
am2000 2004-07-16
- 打赏
- 举报
跟精度等无关，跟业务要求有关；
譬如说1块钱分到1万个人，要怎么算才能平呢？
譬如说1块钱分到1万个人，要怎么算才能平呢？
cxwsoftware 2004-07-16
- 打赏
- 举报
不用计算域，你自己用程序计算完成后赋值就没有问题了
ygwang 2004-07-16
- 打赏
- 举报
谢谢各位，能不能再给出点新的见解！
xingxingy0326 2004-07-16
- 打赏
- 举报
保证单价和金额的数据精度一样就行，我也遇到过，也就是说后台计算的与前台显示的要一样才行。
8193102 2004-07-16
- 打赏
- 举报
没有什么办法了如果你要每一个人的金额保留2位小数并且是四舍五入， 其结果必然是这样子的，
没有解决办法的。
没有解决办法的。
8193102 2004-07-14
- 打赏
- 举报
方法是金额显示2位，但是内部留四位，就不会有总金额不平衡的问题了。只是前面看起来有点怪怪的而已。
Pegasuscc 2004-07-13
- 打赏
- 举报
这种差距是肯定存在的，就连国家税务总局都承认这一点，他们允许一张发票有0.6元的误差，因为他们的软件也算不准啊，这一点可以让客户接受啊，没有人要看到小数点后4位的数吧
zysys 2004-07-12
- 打赏
- 举报
FORMAT属性设置
hgxhzzl 2004-07-12
- 打赏
- 举报
使用计算列时定义它的保留位数,属性FORMAT
ygwang 2004-07-12
- 打赏
- 举报
单价保留四位，金额为两位。
ygwang 2004-07-12
- 打赏
- 举报
是的，我是自己算的。
是这样的：
单价 数量 金额
0.365 1 0.37
0.365 1 0.37
合计 0.73 0.74
0.74和0.73与事实不符。怎么解决？
是这样的：
单价 数量 金额
0.365 1 0.37
0.365 1 0.37
合计 0.73 0.74
0.74和0.73与事实不符。怎么解决？
amekoxiao 2004-07-12
- 打赏
- 举报
用计算列是有这样的问题
自己计算，然后赋值
自己计算，然后赋值
mittee 2004-07-12
- 打赏
- 举报
没有办法，pb的浮点运算精度不高
freedom2001 2004-07-12
- 打赏
- 举报
这没办法，你自己本来的单价和金额就对不起来，难道还想让计算机给你对上吗？你自己这种做法本身就有问题，和程序无关
am2000 2004-07-12
- 打赏
- 举报
只能将0.365 保留两位小数；
不然的话根本没办法平。
这种误差是存在的
不然的话根本没办法平。
这种误差是存在的
ygwang 2004-07-12
- 打赏
- 举报
请举个例子详细说明一下！
加载更多回复（1）
