高精度计算器是如何作出来的

zhugay 2009-07-30 07:58:50
很多计算器都是精确到小数点后面很多位的,就是大大超过了double的小树位数,如:windows的计算器,电子词典的计算器,掌上电脑的计算器程序,不知道是如何做的。
库函数又如何调用呢?如:sin,cos,etc,想要调用他们得到100位的小数不可能呀?
...全文
178 7 打赏 收藏 转发到动态 举报
AI 作业
写回复
用AI写文章
7 条回复
切换为时间正序
请发表友善的回复…
发表回复
lanseshenhua 2009-07-30
  • 打赏
  • 举报
回复
算法实现的。一般CPU内置了FPU单元,貌似最大处理128位的数据。
ok1234567 2009-07-30
  • 打赏
  • 举报
回复
拿一张很大很大的纸,在上面可以演算出很多位的加减乘除算式
设想,计算机就那么模拟(十进制),把每一位搞对就行了
至于那个大数是多少,计算机根本不知道,但是你的程序是知道的 :)
job82824 2009-07-30
  • 打赏
  • 举报
回复
如果仅仅是为了小数部分,那也可以把数据截成两半的,一半儿是整数部分,一半儿是小数部分,然后分而治之。
huofen2005 2009-07-30
  • 打赏
  • 举报
回复
google下大数运算的各个算法实现就行了。
加减的很简单,乘除的有点难的。
huofen2005 2009-07-30
  • 打赏
  • 举报
回复
大数运算嘛,用数组存每一个位,然后按位计算。
使用的是最基础的运算法则。
zhugay 2009-07-30
  • 打赏
  • 举报
回复
谢谢1楼,说通过软件实现,问题是很多时候还是要调用低精度的库函数呀,让我自己去写高精度的库函数,我没办法呀。
晨星 2009-07-30
  • 打赏
  • 举报
回复
Windows的计算器可以算出10000的阶乘呢。显然不是直接基于硬件支持的double运算。double的范围也没那么大。
毫无疑问是通过软件实现的,仅靠CPU的电路,只能支持到double级的浮点运算了。有些CPU支持80位的浮点数,但对于10000的阶乘,那也远远不够。

16,548

社区成员

发帖
与我相关
我的任务
社区描述
VC/MFC相关问题讨论
社区管理员
  • 基础类社区
  • AIGC Browser
  • encoderlee
加入社区
  • 近7日
  • 近30日
  • 至今
社区公告

        VC/MFC社区版块或许是CSDN最“古老”的版块了,记忆之中,与CSDN的年龄几乎差不多。随着时间的推移,MFC技术渐渐的偏离了开发主流,若干年之后的今天,当我们面对着微软的这个经典之笔,内心充满着敬意,那些曾经的记忆,可以说代表着二十年前曾经的辉煌……
        向经典致敬,或许是老一代程序员内心里面难以释怀的感受。互联网大行其道的今天,我们期待着MFC技术能够恢复其曾经的辉煌,或许这个期待会永远成为一种“梦想”,或许一切皆有可能……
        我们希望这个版块可以很好的适配Web时代,期待更好的互联网技术能够使得MFC技术框架得以重现活力,……

试试用AI创作助手写篇文章吧