double 字段中有些数字小数点后有很多9，但是在计算的时候没有导致小数点后很多位的因素

不一样的鞭炮 2015-08-26 10:03:55

double 字段中有些数字小数点后有很多9，但是在计算的时候没有导致小数点后很多位的因素

比如有些数值是：7.66999999999999

但是计算的过程中都是 0.3+0.5 这类，不会得到小数点后这么长的

...全文

542 1 打赏收藏举报

写回复

1 条回复

切换为时间正序

请发表友善的回复…

发表回复

misaka去年夏天 2015-08-26

打赏
举报

回复

floor()函数：返回不大于 value 的最接近的整数，舍去小数部分取整。 round() 函数：对浮点数进行四舍五入

本文深入解析ArcGIS中FLOAT与DOUBLE数据类型的精度差异，揭示面积字段计算不准的根本原因。通过对比存储机制和实战案例，指导用户如何正确选择字段类型，避免`shape_area`等关键字段的精度损失，确保空间数据分析的准确性。

本文深入剖析了ArcGIS中因FLOAT与DOUBLE字段类型精度差异导致的面积计算错误根源。当将高精度的系统字段（如shape_area）值赋给低精度的FLOAT字段时，会发生精度截断，尤其在大数值场景下引发数据错误。文章提供了从原理分析、典型场景到实战排查与规避的完整指南，并强调了在精度与性能间正确权衡的重要性。

在实际开发项目中，特别是涉及金额之类的字段，一般都会用到小数，有些是保留1、2、3小数点。本篇文章主要简单讲讲，如何保持整数、1位小数等都统一保持2位小数点

java金额字段为什么要用Double不用double，Double计算的一些问题

本文深入解析ArcGIS字段计算器中FLOAT与DOUBLE类型的精度差异问题，提供从诊断到解决方案的全流程指南。通过实际案例和代码示例，帮助GIS从业者避免面积计算等场景中的精度损失，确保数据准确性。特别针对shape_area等字段的赋值误差问题给出专业建议。

4,250

社区成员

4,522

社区内容

发帖

与我相关

我的任务

社区管理员

加入社区

近7日
近30日
至今

加载中

查看更多榜单

社区公告

暂无公告

试试用AI创作助手写篇文章吧

+ 用AI写文章