Oracle
Number类型的计算结果不对。
墨衍会员 · AI 创作全网分发 墨衍智能分发 通过墨衍一键同步至各平台 可同步平台 CSDN微信公众号微博知乎掘金百家号博客园抖音小红书 你的文章也可以这样分发 墨衍会员 ¥399起/年，写一次发全网
我也要 关注 + 加入社区UPDATE tms_cash_control_t t
SET t.avai_amount = 466486868.0000000000 - 3.8
WHERE t.id = 302;
--466486864.1999999880
SELECT 466486868.0000000000 - 3.8 FROM dual;
--466486864.2
我用上面update更新t.avai_amount的值 是--466486864.1999999880
但是正确的应该是下面的--466486864.2
为什么会丢失精度，算出错误的结果 ？
请大神指教。
相关推荐
Oracle数据类型之Number
Oracle数据类型之Number, 全方位介绍Number数据类型。
js中Number数字数值运算后值不对的解决方法
下面小编就为大家带来一篇js中Number数字数值运算后值不对的解决方法。小编觉得挺不错的，现在就分享给大家，也给大家做个参考。一起跟随小编过来看看吧
详解JS数值Number类型
Number 问题 下面的问题你都能回答对了吗？ 0.1 + 0.2 == 0.3 成立吗？ .e-5 表示多少？ 怎么表示8进制？ 怎么转换进制？ 如何将字符串转换成数值或整数？反过来呢？十六进制又怎么处理？ parseInt(0x12, 16) 的返回值是多少？是0x12吗？ Number.MAX_VALUE 为最大数值，(new Number(12)).MAX_VALUE 是多少？ JavaScript中怎么进行四舍五入？如果保留3位小数的精度？ 如何获取一个随机数？如何取整？如何向上取整？ Number数字表示方法 Number类型表示数字，Java
Python数据类型之Number数字操作实例详解
主要介绍了Python数据类型之Number数字操作,结合实例形式详细分析了Python数字类型的概念、功能、分类及常用数学函数相关使用技巧,需要的朋友可以参考下
javaScript把其它类型转换为Number类型
一:基本类型 字符串 把字符串转换为数字,只要字符串中包含任意一个非有效数字字符(第一个点除外)结果都是NaN,空字符串会变为数字零 console.log(Number(12.5)); //12.5 console.log(Number(12.5px)); //NAN console.log(Number(12.5.5px));//NAN console.log(Number());//0 布尔 console.log(Number(true));//1 console.log(Number(false));//0 console.log(isNaN(false));//
