关于精度的问题

wlwhhy 2004-03-09 11:00:51

如果数据要求精确到2位小数，那么你认为在数据库存设计时应取几位小数才比较合理？

...全文

59 1 打赏收藏转发到动态举报

写回复

1 条回复

切换为时间正序

请发表友善的回复…

发表回复

关于精度问题在计算几何的计算中，精度问题是一个很常见的问题。这是由于计算机存储浮点数时保留的精度有限而产生的。即使用两个实型变量来存储同一个数字，都有可能产生误差。因此在判定实型变量大小关系时...

Java 浮点数的精度问题源于其底层的二进制表示方式和有限的存储位数。在实际编程中，我们必须谨慎处理浮点数运算，根据具体场景选择合适的方法来避免精度问题。对于一般的浮点数比较，可以使用误差范围进行判断；而...

处理货币数值精度问题因项目场景不同，方式也不同 1.金融项目：需要高精度，不可丢失精度的特点。选择Decimal数据类型进行存储。 2.非金融项目：一般只需保存两位的小数，为防止精度丢失，可以选择int数据类型进行...

最近有一个算法，关于求最近一段时间文本相似度的问题，用到了Reids的SortSet，测试后发现SortSet的Score是Double类型，遇到下面的两种情况都有可能存在精度问题。　1、当整数的时候，整数位数最好不超过16位，...

浮点数的精度问题是计算机科学中的一个常见问题，它可能导致一些看似简单的数学运算产生意外的结果。为了解决这个问题，我们需要深入理解浮点数的表示方式和精度问题产生的原因，并采取合适的解决方案。通过选择合适...

34,871

社区成员

254,637

社区内容

发帖

与我相关

我的任务

社区管理员

加入社区

近7日
近30日
至今

加载中

查看更多榜单

社区公告

暂无公告

试试用AI创作助手写篇文章吧

+ 用AI写文章