关于高精度浮点运算

jiaai 2009-03-07 10:08:56
power(exp(1.0),-29200) 报数据上溢,请各位指点一下,如何返回运算的结果,谢谢!
...全文
217 5 打赏 收藏 转发到动态 举报
写回复
用AI写文章
5 条回复
切换为时间正序
请发表友善的回复…
发表回复
xiaowei_001 2009-03-11
  • 打赏
  • 举报
回复
手工先缩放下!
放大一定倍数,换算完了在补上!
确保数据类型没益出!
jiaai 2009-03-08
  • 打赏
  • 举报
回复
就是超出范围了,请教各位方法,谢谢!
sher12 2009-03-07
  • 打赏
  • 举报
回复
不知道是不是数越界了
分类 范围 字节 备注
Longint -2147483648 .. 2147483647 4 有符号32位
Int64 -263 .. 263 8 有符号64位
Real 5.0×10-324 .. 1.7×10308 8 [精度]15..16
Real48 2.9×10-39 .. 1.7×1038 6 [精度]11..12;向后兼容
Single 1.5×10-45 .. 3.4×1038 4 [精度]7..8
Double 5.0×10-324 .. 1.7×10308 8 [精度]15..16
Extended 3.6×10-4951 .. 1.1×104932 10 [精度]19..20
Comp -263 + 1 .. 263 - 1 8 [精度]19..20
Currency -922337203685477.5808 .. 922337203685477.5807 8 [精度]19..20
sher12 2009-03-07
  • 打赏
  • 举报
回复
写成:
1/(power(exp(1.0),29200))
bdmh 2009-03-07
  • 打赏
  • 举报
回复
power(exp(1.0),-29200)的值已经超出了Extended的范围

16,748

社区成员

发帖
与我相关
我的任务
社区描述
Delphi 语言基础/算法/系统设计
社区管理员
  • 语言基础/算法/系统设计社区
加入社区
  • 近7日
  • 近30日
  • 至今
社区公告
暂无公告

试试用AI创作助手写篇文章吧