全部
问答

float和double类型的奇怪问题，高手请进

wweijie 2003-07-24 10:47:58

我将8E16存入一个double类型则存储为80000000000000000正常，
如果存到float字段，则变为80000002180513792，
为什么会这样？

...全文

12 点赞收藏 3

写回复

3 条回复

切换为时间正序

当前发帖距今超过3年，不再开放新的回复

发表回复

trainee 2003-08-01

我进行了测试：

1。若FLOAT字段，有标明NUMBER SCALE时，比如FLOAR（12，2）
插入8E16，则变为80000002180513792

2。若不注明NUMBER SCALE，
插入8E16，则变为8000000000000000
插入1234567890123456 ，则变为 1.234567E16

3. 其他的数据库POSTGRESQL
不能注明NUMBER SCALE, 效果同2

一个4字节的存储位,若是整型字节,最大数为4294967296
如是浮点数,它还要分成两部分,一部分为精度,一部分为长度.
精度可想而知.

回复赞

wweijie 2003-07-30

FLOAT， DOUBLE 都是浮点类型，在计算机里存储的是近似值，这个大家都知道。但我认为误差这么大是不能接受的。不知道其它数据库是否也存在这个问题。

回复赞

trainee 2003-07-25

FLOAT， DOUBLE 都是浮点类型，在计算机里存储的是近似值，
DOUBLE（8BYTES）的精度比FLOAT（4BYTES）高。
精度越高，存储位越大，
看你应用的需求，选择合适的数据类型。
如果你要很高的精度（比如货币之类），可以选择DECIMAL类型
代价是存储位和速度的开销。

回复赞

相关推荐

C# 按照IEEE 754标准对Float和Double类型进行转换 Convertor按照IEEE 754标准对Float和Double类型进行转换

float与double的范围和精度数据精度问题 float与double的范围和精度

char ,int,long,float,double,等在64位和32位下分别占多少字节 char ,int,long,float,double,等在64位和32位下分别占多少字节

c语言 float double数据类型的内存中的存储和验证 c语言中的float , double 等数据类型的存储，如何计算，如何用vc vs查看内存

float和double类型数据在内存中的存储方法 NULL 博文链接：https://canlynet.iteye.com/blog/1796889

float_double存储问题 C语言和C#语言中，对于浮点类型的数据采用单精度类型（float）和双精度类型(double)来存储，float数据占用32bit, double数据占用64bit

浮点数类型范例 float double float double 的浮点数类型转换

十六进制(HEX)和浮点类型(float、double)转换工具解析参见：https://handsome-man.blog.csdn.net/article/details/107333529

6进制与浮点数（包括float和double）互转、十进制与16进制互换 16进制与浮点数（包括float和double）互转、十进制与16进制互换,非常实用的小工具，串口通信、udp通信等各类通信必用

fast_float：快速，精确地实现float和double类型的C ++ from_chars函数：比strtod快4倍-源码 fast_float库为float和double类型的C ++ from_chars函数提供了仅用于标头的快速实现。这些函数将代表十进制值（例如1.3e10 ）的ASCII字符串转换为二进制类型。我们提供精确的舍入（包括舍入到偶数）。根据我们的...

float_double.c 将32bit的float型数据转换为 64bit的double类型存储在内存中，跨平台可用。解决C51等平台double类型为32bit存储的问题。

基于C++浮点数(float、double)类型数据比较与转换的详解本篇文章是对C++中浮点数(float、double)类型数据比较与转换进行了详细的分析介绍，需要的朋友参考下

jni 使用float double int float double string char * C->Java Java->C 实例

float double精度的详细解释 float double精度的详细解释,小数点位数等等

float、double类型介绍.zip 博客源代码：https://blog.csdn.net/u014411348/article/details/103776963

STM32Flash闪存存储，支持多种类型操作（double，float等） STM32Flash闪存存储参考，支持多种类型操作（double，float等），已封装，便于移植

float和double float和double为什么不可以使用精度计算的解析。

iOS 解决floatValue，doubleValue等计算不精确问题，一句话解决精确计算，精确比较 iOS 解决字符串floatValue，doubleValue等后计算不精确问题，一句话解决精确计算，精确比较

MySQL中Decimal类型和Float Double的区别(详解) 下面小编就为大家带来一篇MySQL中Decimal类型和Float Double的区别(详解)。小编觉得挺不错的，现在就分享给大家，也给大家做个参考。一起跟随小编过来看看吧

详解java中float与double的区别主要介绍了JAVA中float与double的区别，文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值，需要的朋友们下面随着小编来一起学习学习吧

发帖

创建于2007-09-28

加入

5.5w+

社区成员

5.6w+

社区内容

MySQL相关内容讨论专区

申请成为版主

帖子事件

创建了帖子

2003-07-24 10:47

社区公告

暂无公告