关于精度的问题

wlwhhy 2004-03-09 11:00:51

如果数据要求精确到2位小数，那么你认为在数据库存设计时应取几位小数才比较合理？

...全文

52 1 打赏收藏转发到动态举报

写回复

1 条回复

切换为时间正序

请发表友善的回复…

发表回复

课程的核心是开发一个基于OpenCV的“精度测量”项目。首先就是需要说明“什么是精度测量项目”，“精度测量的难点在哪里”，“精度测量的价值是什么，可用于哪些地方”？我们将围绕这若干问题的解决，展开全面的教学。

Big.js 是一个 JavaScript 的 “任意精度” 数字库，能够处理普通数字无法表示的大数字计算。当使用 JavaScript 进行数值计算时，会面临一些精度问题，这些问题可能会导致不正确的结果。解决方案：可以使用 BigInt 类型进行更大范围的整数运算，但是要注意支持性不够广泛，需在浏览器和 Node.js 环境中提供额外的支持。Luckily, Big.js 提供了相关方法。在处理大数值时，使用 big.js 这样的高精度库可以避免 JavaScript 中 Number 类型的精度问题。

详解浮点数精度问题

处理货币数值精度问题因项目场景不同，方式也不同 1.金融项目：需要高精度，不可丢失精度的特点。选择Decimal数据类型进行存储。 2.非金融项目：一般只需保存两位的小数，为防止精度丢失，可以选择int数据类型进行存储。存储时扩大100倍，等到要用时，再缩小100位。 3.在数据库存储高精度货币数值时，为保证精度不丢失。一个货币数值可分为两个字段进行存储，一个字段存储整数部分，一个字...

项目中会遇到我们能拿到后台返回的数据我们一般通过id 的信息进行传参，或者查看详情等一些类操作，但是有的时候会突然发现明明拿到了，但是传的id值不一样，这个时候就要考虑是不是精度丢失的问题了。一般精度问题后台处理最为方便，但是有时候前端也要知道 utils 文件夹下新建 precision.js文件 //除法函数，用来得到精确的除法结果 //说明：javascript的除法结果会有误差，在两个浮点数相除的时候会比较明显。这个函数返回较为精确的除法结果。 //调用：accDiv(arg1,

34,588

社区成员

254,588

社区内容

发帖

与我相关

我的任务

社区管理员

加入社区

近7日
近30日
至今

加载中

查看更多榜单

社区公告

暂无公告

试试用AI创作助手写篇文章吧

+ 用AI写文章