有关计算域问题,为什么数量*单价 用计算域保留两位小数等于33.23 按理应该是33.235 = 33.24 求解

qq_39971257 2020-04-22 09:23:12
数据窗口有两列字段 ,数量in_amount 与单价tax_price 然后金额用计算域 round( tax_price *in_amount ,2)
数量输入 2.3 单价输入14.45 结果计算域出现的是33.23 , 实际应该是33.235 进行四舍五入应该是33.24 .
然后验证其他数据输入都能实现四舍五入正确,就是这个数据不正确 ,如果单独用 round( 32.235 ,2) 能正确33.24
不知道为什么?求解
...全文
254 4 打赏 收藏 转发到动态 举报
写回复
用AI写文章
4 条回复
切换为时间正序
请发表友善的回复…
发表回复
longdrang 2020-05-06
  • 打赏
  • 举报
回复
变量数据类型的问题
hhohho 2020-05-05
  • 打赏
  • 举报
回复
保证精度一样再计算
  • 打赏
  • 举报
回复
你in_amount ,tax_price 类型要用dec
belsai 2020-04-23
  • 打赏
  • 举报
回复
数量in_amount 与单价tax_price的数据类型是什么?把计算域删掉重建试试

1,079

社区成员

发帖
与我相关
我的任务
社区描述
PowerBuilder 相关问题讨论
社区管理员
  • 基础类社区
  • WorldMobile
加入社区
  • 近7日
  • 近30日
  • 至今
社区公告
暂无公告

试试用AI创作助手写篇文章吧