float和double类型的奇怪问题，高手请进

wweijie 2003-07-24 10:47:58

我将8E16存入一个double类型则存储为80000000000000000正常，
如果存到float字段，则变为80000002180513792，
为什么会这样？

...全文

36 3 打赏收藏转发到动态举报

写回复

3 条回复

切换为时间正序

请发表友善的回复…

发表回复

trainee 2003-08-01

打赏
举报

回复

我进行了测试：

1。若FLOAT字段，有标明NUMBER SCALE时，比如FLOAR（12，2）
插入8E16，则变为80000002180513792

2。若不注明NUMBER SCALE，
插入8E16，则变为8000000000000000
插入1234567890123456 ，则变为 1.234567E16

3. 其他的数据库POSTGRESQL
不能注明NUMBER SCALE, 效果同2

一个4字节的存储位,若是整型字节,最大数为4294967296
如是浮点数,它还要分成两部分,一部分为精度,一部分为长度.
精度可想而知.

wweijie 2003-07-30

打赏
举报

回复

FLOAT， DOUBLE 都是浮点类型，在计算机里存储的是近似值，这个大家都知道。但我认为误差这么大是不能接受的。不知道其它数据库是否也存在这个问题。

trainee 2003-07-25

打赏
举报

回复

FLOAT， DOUBLE 都是浮点类型，在计算机里存储的是近似值，
DOUBLE（8BYTES）的精度比FLOAT（4BYTES）高。
精度越高，存储位越大，
看你应用的需求，选择合适的数据类型。
如果你要很高的精度（比如货币之类），可以选择DECIMAL类型
代价是存储位和速度的开销。

对论坛中有关数据类型转换的整理
整理：Vision Deng
--------------------------------------------------------------------------------
说明：本文纯粹是总结一下有关类型转换的贴子，本人并未对所有方法都做测试，仅仅是为了给大家一个参考。
int i = 100;
long l = 2001;
float f=300.2;
double d=1

Cpp代码 int i = 100; long l = 2001; float f=300.2; double d=12345.119; char username[]="程佩君"; char temp[200]; char *buf; CString str; _variant_t v1; _bstr_t v2;

数据类型转换的整理说明：本文纯粹是总结一下有关类型转换的贴子，本人并未对所有方法都做测试，仅仅是为了给大家一个参考。读者层次：初学int i = 100;long l = 2001;float f=300.2;double d=12345.119;char username[]="程佩君";char temp[200];char *buf;CString

说明：本文纯粹是总结一下有关类型转换的贴子，本人并未对所有方法都做测试，仅仅是为了给大家一个参考。读者层次：初学int i = 100;long l = 2001;float f=300.2;double d=12345.119;char username[]="程佩君";char temp[200];char *buf;CString str;_variant_t v1;_bstr_

本章节的重点是数据类型详细介绍整型在内存中的的存储：原码、反码、补码大小端字节序介绍及判断浮点型在内存中的存储解析char // 字符数据类型short // 短整型int // 整型long // 长整型long long // 更长的整型float // 单精度浮点数double // 双精度浮点数// c语言有没有字符串类型？// 没有以及他们所占存储空间的大小。使用这个类型开辟内存空间的大小（大小决定了使用范围）如何看待内存空间的视角什么是大端小端？

56,940

社区成员

56,756

社区内容

发帖

与我相关

我的任务

社区管理员

加入社区

近7日
近30日
至今

加载中

查看更多榜单

社区公告

暂无公告

试试用AI创作助手写篇文章吧

+ 用AI写文章