社区
VB基础类
帖子详情
转化成单精度数的怪问题~竟然转化成“-1.#QNAN“这样的单精度????
playcat
2003-01-14 09:55:31
我把四个字节的数转化成单精度的数,但会有一个不合格的数传入需要转化,比如“7FFF6DBEE”转化的话会变成“-1.#QNAN”这样的单精度数,这样的单精度数应该是不正确的,但我在转化过程中也不会出现错误,判断“-1.#QNAN”也是数字,但我想遇到这样怪的单精度型的数我是不要保存的,我怎么办呢????
...全文
111
6
打赏
收藏
转化成单精度数的怪问题~竟然转化成“-1.#QNAN“这样的单精度????
我把四个字节的数转化成单精度的数,但会有一个不合格的数传入需要转化,比如“7FFF6DBEE”转化的话会变成“-1.#QNAN”这样的单精度数,这样的单精度数应该是不正确的,但我在转化过程中也不会出现错误,判断“-1.#QNAN”也是数字,但我想遇到这样怪的单精度型的数我是不要保存的,我怎么办呢????
复制链接
扫一扫
分享
转发到动态
举报
写回复
配置赞助广告
用AI写文章
6 条
回复
切换为时间正序
请发表友善的回复…
发表回复
打赏红包
yvqq
2003-01-17
打赏
举报
回复
应该没问题的,把你的代码帖出来!
wuzhiliang
2003-01-17
打赏
举报
回复
楼上的,你不是开玩笑吧.当然等于7了
Arcan
2003-01-16
打赏
举报
回复
Dim a As Single
a = Val("7FFF6DBEE")
Text1.Text = a
a=7啊,不是什么怪异的数
laocai8
2003-01-16
打赏
举报
回复
数溢出,用long型试试
stgxc
2003-01-16
打赏
举报
回复
在转化前,用一下VAL函数。如:
s = val(s)
快结贴给分。
playcat
2003-01-16
打赏
举报
回复
难道没人知道??????
ARCGIS中用
数
据生成线和面方法
Polyline1 00 100.0 200.0 1
.#
Q
NAN
1
.#
Q
NAN
1 101.0 201.0 1
.#
Q
NAN
1
.#
Q
NAN
2 102.0 202.0 1
.#
Q
NAN
1
.#
Q
NAN
3 103.0 203.0 1
.#
Q
NAN
1
.#
Q
NAN
4 104.0 204.0 1
.#
Q
NAN
1
.#
Q
NAN
5 105.0 205.0 1
.#
Q
NAN
1
.#
Q
NAN
6 106.0 ...
arcgis点生成面、线的
问题
0100.0200.01
.#
Q
NAN
1
.#
Q
NAN
1101.0201.01
.#
Q
NAN
1
.#
Q
NAN
... END ``` 2. **使用ArcGIS工具进行转换**: - 打开ArcGIS软件。 - 依次点击“Toolbox” -> “Samples” -> “Data Management” -> “Features” -...
Java中float类型的范围及其与十六进制的转换例子
在Java编程语言中,`float`类型是一种
单精度
浮点
数
,它占据4个字节(32位)的空间。浮点
数
的表示遵循IEEE 754标准,该标准定义了如何用二进制来表示不同的
数
值,包括正负
数
、零、无穷大以及非
数
字(
NaN
)。 首先,...
用计算机表示小
数
1,小
数
在计算机中的表示
0,那么1+a一定大于1吗?在
数
学上,答案是肯定的。但在计算机上,答案就与a的大小和浮点
数
的精度有关了。在matalb上,可以作以下计算:>> a=1/2^52a =2.220446049250313e-016>> 1+a>1ans =1>> ...
pandas.read_csv 详细介绍
这些值为认为是空值
NaN
:[‘-1
.#
IND’, ‘1
.#
Q
NAN
’, ‘1
.#
IND’, ‘-1
.#
Q
NAN
’, ‘#N/A N/A’, ‘#N/A’, ‘N/A’, ‘n/a’, ‘NA’, ‘#NA’, ‘NULL’, ‘null’, ‘
NaN
’, ‘-
NaN
’, ‘
nan
’, ‘-
nan
’, ‘’]
VB基础类
7,789
社区成员
197,583
社区内容
发帖
与我相关
我的任务
VB基础类
VB 基础类
复制链接
扫一扫
分享
社区描述
VB 基础类
社区管理员
加入社区
获取链接或二维码
近7日
近30日
至今
加载中
查看更多榜单
社区公告
暂无公告
试试用AI创作助手写篇文章吧
+ 用AI写文章