gmp库计算精度问题

dpkt 2018-12-04 12:53:31

执行代码
n=gmpy2.mpz(5682549022748424631339131913370125786212509227588493537874673173634936008725904358935442101466555561124455782847468955028529037660533553941399408331331403378)
a = gmpy2.mpz(2)
print(n / a * a == n)
print(n / a)
print(n / a * a)



输出结果
 False
2.8412745113742125e+156
5.682549022748425e+156




为什么第一行输出结果是false
...全文
94 回复 打赏 收藏 转发到动态 举报
写回复
用AI写文章
回复
切换为时间正序
请发表友善的回复…
发表回复

37,718

社区成员

发帖
与我相关
我的任务
社区描述
JavaScript,VBScript,AngleScript,ActionScript,Shell,Perl,Ruby,Lua,Tcl,Scala,MaxScript 等脚本语言交流。
社区管理员
  • 脚本语言(Perl/Python)社区
  • IT.BOB
加入社区
  • 近7日
  • 近30日
  • 至今

试试用AI创作助手写篇文章吧