高精度计算器是如何作出来的

zhugay 2009-07-30 07:58:50
很多计算器都是精确到小数点后面很多位的,就是大大超过了double的小树位数,如:windows的计算器,电子词典的计算器,掌上电脑的计算器程序,不知道是如何做的。
库函数又如何调用呢?如:sin,cos,etc,想要调用他们得到100位的小数不可能呀?
...全文
97 点赞 收藏 7
写回复
7 条回复
切换为时间正序
请发表友善的回复…
发表回复
lanseshenhua 2009-07-30
算法实现的。一般CPU内置了FPU单元,貌似最大处理128位的数据。
回复
ok1234567 2009-07-30
拿一张很大很大的纸,在上面可以演算出很多位的加减乘除算式
设想,计算机就那么模拟(十进制),把每一位搞对就行了
至于那个大数是多少,计算机根本不知道,但是你的程序是知道的 :)
回复
job82824 2009-07-30
如果仅仅是为了小数部分,那也可以把数据截成两半的,一半儿是整数部分,一半儿是小数部分,然后分而治之。
回复
huofen2005 2009-07-30
google下大数运算的各个算法实现就行了。
加减的很简单,乘除的有点难的。
回复
huofen2005 2009-07-30
大数运算嘛,用数组存每一个位,然后按位计算。
使用的是最基础的运算法则。
回复
zhugay 2009-07-30
谢谢1楼,说通过软件实现,问题是很多时候还是要调用低精度的库函数呀,让我自己去写高精度的库函数,我没办法呀。
回复
晨星 2009-07-30
Windows的计算器可以算出10000的阶乘呢。显然不是直接基于硬件支持的double运算。double的范围也没那么大。
毫无疑问是通过软件实现的,仅靠CPU的电路,只能支持到double级的浮点运算了。有些CPU支持80位的浮点数,但对于10000的阶乘,那也远远不够。
回复
发动态
发帖子
VC/MFC
创建于2007-09-28

1.5w+

社区成员

VC/MFC相关问题讨论
申请成为版主
社区公告
暂无公告