社区
语言基础/算法/系统设计
帖子详情
关于高精度浮点运算
jiaai
2009-03-07 10:08:56
power(exp(1.0),-29200) 报数据上溢,请各位指点一下,如何返回运算的结果,谢谢!
...全文
217
5
打赏
收藏
关于高精度浮点运算
power(exp(1.0),-29200) 报数据上溢,请各位指点一下,如何返回运算的结果,谢谢!
复制链接
扫一扫
分享
转发到动态
举报
写回复
配置赞助广告
用AI写文章
5 条
回复
切换为时间正序
请发表友善的回复…
发表回复
打赏红包
xiaowei_001
2009-03-11
打赏
举报
回复
手工先缩放下!
放大一定倍数,换算完了在补上!
确保数据类型没益出!
jiaai
2009-03-08
打赏
举报
回复
就是超出范围了,请教各位方法,谢谢!
sher12
2009-03-07
打赏
举报
回复
不知道是不是数越界了
分类 范围 字节 备注
Longint -2147483648 .. 2147483647 4 有符号32位
Int64 -263 .. 263 8 有符号64位
Real 5.0×10-324 .. 1.7×10308 8 [精度]15..16
Real48 2.9×10-39 .. 1.7×1038 6 [精度]11..12;向后兼容
Single 1.5×10-45 .. 3.4×1038 4 [精度]7..8
Double 5.0×10-324 .. 1.7×10308 8 [精度]15..16
Extended 3.6×10-4951 .. 1.1×104932 10 [精度]19..20
Comp -263 + 1 .. 263 - 1 8 [精度]19..20
Currency -922337203685477.5808 .. 922337203685477.5807 8 [精度]19..20
sher12
2009-03-07
打赏
举报
回复
写成:
1/(power(exp(1.0),29200))
bdmh
2009-03-07
打赏
举报
回复
power(exp(1.0),-29200)的值已经超出了Extended的范围
C++ builder delphi
高精度
浮点运算
实例
C++ builder delphi
高精度
浮点运算
tms320f28335 dsp中文数据手册
高性能的静态CMOS技术,指令周期为6.67 ns,主频达150 MHz; 高性能的32位CPU,单精度
浮点运算
单元(FPU),采用哈佛流水线结构,能够快速执行中断响应,并具有统一的内存管理模式,可用C/C++语言实现复杂的数学算法;
如何打造海量高速
高精度
图像搜索系统?秒级30亿指纹搜索实战经验
墨奇科技CTO及核心研发团队主讲,带你领略超现实的图像搜索技术,介绍如何打造一个海量高速
高精度
图像搜索系统?—— 解决秒级30亿指纹精准搜索难题的实战经验。
50.常用的数学工具类7-
高精度
浮点运算
常用的数学工具类7-
高精度
浮点运算
C++
高精度
浮点类HPFloat 通过数量级运算
C++通过数量级运算的
高精度
浮点运算
HPFloat
语言基础/算法/系统设计
16,748
社区成员
33,247
社区内容
发帖
与我相关
我的任务
语言基础/算法/系统设计
Delphi 语言基础/算法/系统设计
复制链接
扫一扫
分享
社区描述
Delphi 语言基础/算法/系统设计
社区管理员
加入社区
获取链接或二维码
近7日
近30日
至今
加载中
查看更多榜单
社区公告
暂无公告
试试用AI创作助手写篇文章吧
+ 用AI写文章