关于精度的问题

wlwhhy 2004-03-09 11:00:51

如果数据要求精确到2位小数，那么你认为在数据库存设计时应取几位小数才比较合理？

...全文

56 1 打赏收藏转发到动态举报

写回复

1 条回复

切换为时间正序

请发表友善的回复…

发表回复

关于精度问题在计算几何的计算中，精度问题是一个很常见的问题。这是由于计算机存储浮点数时保留的精度有限而产生的。即使用两个实型变量来存储同一个数字，都有可能产生误差。因此在判定实型变量大小关系时...

当使用 JavaScript 进行数值计算时，会面临一些精度问题，这些问题可能会导致不正确的结果。解决方案：可以使用 BigInt 类型进行更大范围的整数运算，但是要注意支持性不够广泛，需在浏览器和 Node.js 环境中提供...

详解浮点数精度问题

处理货币数值精度问题因项目场景不同，方式也不同 1.金融项目：需要高精度，不可丢失精度的特点。选择Decimal数据类型进行存储。 2.非金融项目：一般只需保存两位的小数，为防止精度丢失，可以选择int数据类型进行...

最近有一个算法，关于求最近一段时间文本相似度的问题，用到了Reids的SortSet，测试后发现SortSet的Score是Double类型，遇到下面的两种情况都有可能存在精度问题。　1、当整数的时候，整数位数最好不超过16位，...

34,837

社区成员

254,632

社区内容

发帖

与我相关

我的任务

社区管理员

加入社区

近7日
近30日
至今

加载中

查看更多榜单

社区公告

暂无公告

试试用AI创作助手写篇文章吧

+ 用AI写文章