1.6w+
社区成员
Number类型的计算结果不对。
字段类型：avai_amount number(28,10)
UPDATE tms_cash_control_t t
SET t.avai_amount = 466486868.0000000000 - 3.8
WHERE t.id = 302;
--466486864.1999999880
SELECT 466486868.0000000000 - 3.8 FROM dual;
--466486864.2
我用上面update更新t.avai_amount的值 是--466486864.1999999880
但是正确的应该是下面的--466486864.2
为什么会丢失精度，算出错误的结果 ？
请大神指教。
UPDATE tms_cash_control_t t
SET t.avai_amount = 466486868.0000000000 - 3.8
WHERE t.id = 302;
--466486864.1999999880
SELECT 466486868.0000000000 - 3.8 FROM dual;
--466486864.2
我用上面update更新t.avai_amount的值 是--466486864.1999999880
但是正确的应该是下面的--466486864.2
为什么会丢失精度，算出错误的结果 ？
请大神指教。
...全文
当前发帖距今超过3年，不再开放新的回复
发表回复
入门学习Linux常用必会60个命令实例详解doc/txt 在使用mount这个指令时，至少要先知道下列三种信息：要加载对象的文件系统类型、要加载对象的设备名称及要将设备加载到哪个目录下。 （1）Linux可以识别的文件系统 ◆ Windows 95/98常用的FAT 32文件系统：vfat ；...
vue处理number数据类型千分位计算 if (typeof val === "number") { return val.toFixed(2).replace(/(\d)(?=(\d{3})+\.)/g, "$1,"); } }, 请求到数据 遍历数据处理价钱做千分位计算 this.tableData = res.data.data.items; // console.log...
《Python程序设计与算法基础教程（第二版）》江红 余青松 全部章节的课后习题，上机实践，课后答案，案例研究 下列Python语句的输出结果是 def f():pass print(type(f())) 结果： NoneType数据类型包含唯一值None，主要用于表示空值，如没有返回值的函数的结果 上机实践：2~6 2. 编写程序，输入本金、年利率和年数，计算复利...
JavaScript数据类型 - Number类型 Number类型 Number类型应该是ECMAScript中最令人关注的数据类型了，这种类型使用IEEE754格式来表示整数和浮点数值。为支持各种数值类型，ECMA262定义了不同的数值字面量表示格式。 我们平时用的最多的也是最基本的...
面试 SQL整理 常见的SQL面试题：经典50题 目录 SQL基础知识整理: 常见的SQL面试题：经典50题 三、50道面试题 ...【面试题类型总结】这类题目属于行列如何互换，解题思路...select 查询结果 如:[学号,平均成绩：组函数avg(成绩)]from 从哪张表中查找数...
Oracle数据库Number类型小数，数据过大导致数据精度丢失 之前存储数据的时候，该数据的存储类型为Number(20,10)，明明没有超出数据长度，但是看PL/SQL数据库的数据精度却丢失了。 解决方案： 打开PL/SQL-----选择首选项-------选择窗口类型-----SQL窗口-----打开SQL窗口-...
嵩天老师-Python语言程序设计-Python123配套练习测验题目汇总整理 pow(x,0.5)能够计算x的平方根，计算 负数的平方根 将产生 复数 字符串. strip ()方法的功能是去掉字符串两侧指定的字符 字符串. split ()方法的功能是按照指定字符分隔字符串为数组 字符串. repalce ()方法的...
修改有数据oracle字段类型 从number转为varchar(转) --修改有数据oracle字段类型 从number转为varchar --例：修改ta_sp_org_invoice表中RESCUE_PHONE字段类型，从number转为varchar --step1：增加一个原类型缓冲区字段 alter table ta_sp_org_invoice ...
3.oracle的数据类型及number类型详解 1、数据类型 (1)Char(size) 字符类型 ①定长(例如定义了32位，然后只输入了10位，那么系统会自动用空格补够32个) ②最多存放2000个字符 Create table test1(name char(32)); (2)varchar2(size) 字符...
Python 入门&环境搭建&变量&数据类型 是一种面向对象的动态类型语言，最初被设计用于编写自动化脚本(shell)，随着版本的不断更新和语言新功能的添加，越来越多被用于独立的、大型项目的开发。 Python 应用领域： Python 是一种解释型脚本语言，可以应用...
number数据类型的详细解读（13) 0 12 -12 12.5,JS中多增加了一个number类型的数据：NaN typeof Nan ->“number” NaN not a number : 不是一个数，但是属于number类型 NaN==NaN : false。NaN和任何其它值都不相等 isNaN 用来检测当前这个值...
JS中Number数据类型需要注意的事项 如果某次计算的结果得到了一个超出JS数值范围的值，那么这个数值会自动转换成特殊的Infinity值。也就是，如果这个数值是负数，则会转换成-Infinity（负无穷），如果这个数是正数，则会被转换成Infinity（正无穷）。 ...
解决js计算精度问题BigNumber.js 因为JavaScript中所有的数字（包括整数和小数）都只有一种类型–Number。它的实现遵循IEEE 754标准，使用64位固定长度来表示，也就是标准的double双精度浮点数。它的优点是可以归一化处理整数和小数，节省储存空间。...
Oracle number类型的语法和用法 Oracle number类型的语法和用法 2012-10-29 10:37:08 我来说两句 作者：liwenshui322收藏 我要投稿 Oracle number类型的语法和用法 number类型的语法很简单,就是： number(p,s) p,s都是可选的，假如都不...
使用 JavaScript 中的变量、数据类型和运算符，计算出两个 number 类型的变量与一个 string 类型的变量的和，根据 string 类型处于运算符的不同位置得到不同的结果 使用 JavaScript 中的变量、数据类型和运算符，计算出两个 number 类型的变量与一个 string 类型的变量的和，根据 string 类型处于运算符的不同位置得到不同的结果 实现思路： 创建站点，新建HTML页面 在 HTML ...
判断Number数值类型 html> html lang="en"> head> meta charset="UTF-8"> title>Numbei数值类型title> script type="text/javascript"> // var a='123' // alert(typeof a) // a=parseInt(a); //
