社区
PowerBuilder
帖子详情
关于小数位的处理,急!
ygwang
2004-07-12 10:11:22
我的表单单价计算为小数点后6位,用计算列计算金额则四舍五入,计算出的金额与用单价乘数量计算出的金额,相差几个百分点,请高手支招!急呀!
...全文
239
21
打赏
收藏
关于小数位的处理,急!
我的表单单价计算为小数点后6位,用计算列计算金额则四舍五入,计算出的金额与用单价乘数量计算出的金额,相差几个百分点,请高手支招!急呀!
复制链接
扫一扫
分享
转发到动态
举报
AI
作业
写回复
配置赞助广告
用AI写文章
21 条
回复
切换为时间正序
请发表友善的回复…
发表回复
打赏红包
shengbingma
2004-07-17
打赏
举报
回复
当你需要计算时,将数值型数据转换成字符型进行判断,就不存在四舍五入了,完成计算后,再转换回来。
losgou
2004-07-16
打赏
举报
回复
给个不怎么合理,但比较有效的方法(如果你结果保留小数点后2位)
你想精确到什么程度呢?
(当然前提还要当你的数据不够很大)
单价 数量 金额
0.365*100 1 36.50
0.365*100 1 36.50
合计 73/100 73/100
也就是计算过程中将小数点后移n位计算,得到结果后移回去(不过处理要小心哦)
behrman
2004-07-16
打赏
举报
回复
将界面显示的和数据计算的分开取值,但实际还是一个数据值,计算不出现大的误差,而显示的值却有误差,这样算出的结果是真实的,而显示的值是四舍五入的!
devotee2000
2004-07-16
打赏
举报
回复
单价保留四位,金额为两位。
am2000
2004-07-16
打赏
举报
回复
跟精度等无关,跟业务要求有关;
譬如说1块钱分到1万个人,要怎么算才能平呢?
cxwsoftware
2004-07-16
打赏
举报
回复
不用计算域,你自己用程序计算完成后赋值就没有问题了
ygwang
2004-07-16
打赏
举报
回复
谢谢各位,能不能再给出点新的见解!
xingxingy0326
2004-07-16
打赏
举报
回复
保证单价和金额的数据精度一样就行,我也遇到过,也就是说后台计算的与前台显示的要一样才行。
8193102
2004-07-16
打赏
举报
回复
没有什么办法了如果你要每一个人的金额保留2位小数并且是四舍五入, 其结果必然是这样子的,
没有解决办法的。
8193102
2004-07-14
打赏
举报
回复
方法是金额显示2位,但是内部留四位,就不会有总金额不平衡的问题了。只是前面看起来有点怪怪的而已。
Pegasuscc
2004-07-13
打赏
举报
回复
这种差距是肯定存在的,就连国家税务总局都承认这一点,他们允许一张发票有0.6元的误差,因为他们的软件也算不准啊,这一点可以让客户接受啊,没有人要看到小数点后4位的数吧
zysys
2004-07-12
打赏
举报
回复
FORMAT属性设置
hgxhzzl
2004-07-12
打赏
举报
回复
使用计算列时定义它的保留位数,属性FORMAT
ygwang
2004-07-12
打赏
举报
回复
单价保留四位,金额为两位。
ygwang
2004-07-12
打赏
举报
回复
是的,我是自己算的。
是这样的:
单价 数量 金额
0.365 1 0.37
0.365 1 0.37
合计 0.73 0.74
0.74和0.73与事实不符。怎么解决?
amekoxiao
2004-07-12
打赏
举报
回复
用计算列是有这样的问题
自己计算,然后赋值
mittee
2004-07-12
打赏
举报
回复
没有办法,pb的浮点运算精度不高
freedom2001
2004-07-12
打赏
举报
回复
这没办法,你自己本来的单价和金额就对不起来,难道还想让计算机给你对上吗?你自己这种做法本身就有问题,和程序无关
am2000
2004-07-12
打赏
举报
回复
只能将0.365 保留两位小数;
不然的话根本没办法平。
这种误差是存在的
ygwang
2004-07-12
打赏
举报
回复
请举个例子详细说明一下!
加载更多回复(1)
小数除法练习卷精选.doc
小数乘法的计算通常遵循整数乘法的规则,只是需要
处理
小数点的位置。例如题目中的第一题,要求列竖式计算27乘以某个数,以及0.86乘以另一个数,其中第二题的得数要保留两位小数,第三题要精确到十分位。在进行这类...
KLDL智能流量定量控制仪.docx
该仪表具备自我整定流量功能,能够
处理
小数点浮动,提供高分辨率的瞬时流量显示(最大6位整数,最小3位小数)和大流量范围(6位整数)。其测量精度高,可靠性强,并且调校过程简单。 7段折线运算功能是KLDL的一大...
C++保留有效位与保留
小数位
如果想要保留n位小数 根据C++官网上的解释,该函数没有指定的返回类型,并且该函数用于设定输出操作上的小数精确位。 然后返回值中解释:未指定返回值,这个函数仅用于数据流修改操作上。 说了这么多,我想要...
c++保留小数点后三位数_C++保留有效位与保留
小数位
如果想要保留n位小数 根据C++官网上的解释,该函数没有指定的返回类型,并且该函数用于设定输出操作上的小数精确位。然后返回值中解释:未指定返回值,这个函数仅用于数据流修改操作上。 说了这么多,我想要表达的...
c++语言取整为什么要加0.5_C++保留有效位与保留
小数位
如果想要保留n位小数根据C++官网上的解释,该函数没有指定的返回类型,并且该函数用于设定输出操作上的小数精确位。然后返回值中解释:未指定返回值,这个函数仅用于数据流修改操作上。说了这么多,我想要表达的意思...
PowerBuilder
1,108
社区成员
66,453
社区内容
发帖
与我相关
我的任务
PowerBuilder
PowerBuilder 相关问题讨论
复制链接
扫一扫
分享
社区描述
PowerBuilder 相关问题讨论
社区管理员
加入社区
获取链接或二维码
近7日
近30日
至今
加载中
查看更多榜单
社区公告
暂无公告
试试用AI创作助手写篇文章吧
+ 用AI写文章