Number类型的计算结果不对。

羊粥炒饭 2013-06-07 06:15:39

字段类型：avai_amount number(28,10)

UPDATE tms_cash_control_t t
SET t.avai_amount = 466486868.0000000000 - 3.8
WHERE t.id = 302;
--466486864.1999999880

SELECT 466486868.0000000000 - 3.8 FROM dual;
--466486864.2

我用上面update更新t.avai_amount的值是--466486864.1999999880
但是正确的应该是下面的--466486864.2
为什么会丢失精度，算出错误的结果？
请大神指教。

...全文

148 2 打赏收藏转发到动态举报

写回复

2 条回复

切换为时间正序

请发表友善的回复…

发表回复

羊粥炒饭 2013-06-07

打赏
举报

回复

下面那个我只是算算他的正确结果而已，上面那个不管跟谁走他不能把结果算错了，要说跟前面avai_amount 的精度走，那也该是用零填充啊不能来后面那么乱七八糟的。。

u010412956 2013-06-07

打赏
举报

回复

你这个比法就不对 1个是跟 avai_amount 的类型走 1个是跟被减的3.8走

查看本章节查看作业目录需求说明：使用 JavaScript 中的变量、数据类型和运算符，计算出两个 number 类型的变量与一个 string 类型的变量的和，根据 string 类型处于运算符的不同位置得到不同的结果实现思路：创建站点，新建HTML页面在 HTML 页面的 <body> 标签中编写 JavaScript 脚本，在脚本中定义两个 number 类型的变量和一个 string 类型的变量根据不同的顺序计算 3 个变量的和实现代码： <

定义一个methods方法 // 千分位匹配价钱 isMoney(val) { if (typeof val === "number") { return val.toFixed(2).replace(/(\d)(?=(\d{3})+\.)/g, "$1,"); } }, 请求到数据遍历数据处理价钱做千分位计算 this.tableData = res.data.data.items; // console.log(this.

本篇博客介绍了JavaScript中的Number类型，包括Number类型的基本用法、常见问题与解决方案、数字格式化与精度控制、数字计算的注意事项等相关知识点。同时还介绍了Number类型的常量和特殊值、与其他数据类型的转换，以及在字符串操作中的应用。Number类型在JavaScript中是非常重要的，它可以用于存储和操作各种数值类型。但需要注意的是，由于Number类型的精度是受限的，所以在进行浮点数计算时可能会出现精度问题。为了解决这个问题，可以使用toFixed()方法进行精确的四舍五入。

思路：先确定要保留结果的位数，然后对其运算的数字进行扩大进行整数运算，运算完后除去扩大的倍数 var numLength = 10000;//全局控制精确小数位数 /** * 防止两个Number相加进度丢失 * @param obj1 减数 * @param obj2 被减数 */ function numAdd(num1,num2){ num1 = Math.floor(Nu...

数据类型转换 JS中一共有两种类型转换：隐式类型转换，是指JavaScript自动进行的类型转换。显式类型转换，是指我们手动用代码进行的类型转换。字符串转数字函数作用 Number() 用于把所有只有数字的字符串转成数字，如“123” parseInt() 用于把首字母是数字的字符串中数字的整数部分转成数字，如“123hhh” parseFloat() 用于把首字母是数字的字符串中数字的整数和小数部分转成数字，如“123.3hhh” Number() &

17,140

社区成员

55,259

社区内容

发帖

与我相关

我的任务

社区管理员

加入社区

近7日
近30日
至今

加载中

查看更多榜单

社区公告

暂无公告

试试用AI创作助手写篇文章吧

+ 用AI写文章