社区
C++ 语言
帖子详情
int64数学计算
闲闲的程序猿
2010-07-30 10:44:08
int64的数据有什么数学运算库吗?比如开根号或者log运算
...全文
254
8
打赏
收藏
int64数学计算
int64的数据有什么数学运算库吗?比如开根号或者log运算
复制链接
扫一扫
分享
转发到动态
举报
写回复
配置赞助广告
用AI写文章
8 条
回复
切换为时间正序
请发表友善的回复…
发表回复
打赏红包
lpmark
2010-08-01
打赏
举报
回复
int 有的int64都有吧!
jbz001
2010-08-01
打赏
举报
回复
楼主可以在VC中点击int64,然后点击鼠标右键,选择Go to defintion看看int64到底是什么东西
xl1016807272
2010-07-31
打赏
举报
回复
听说有个叫做root的数学库,很有名,不过国内用的人很少,楼主可以搜一下
xjh53759299
2010-07-31
打赏
举报
回复
int64只能是整数啦, 开根号或者log运算这种运算都会转化成浮点数的计算的
windsting
2010-07-31
打赏
举报
回复
我能想到的解决方案就是自己写,或者先搜索一下有没有可用的第三方库。
yunyun1886358
2010-07-30
打赏
举报
回复
学习,楼主要用这么大的数?double都不够。
icansaymyabc
2010-07-30
打赏
举报
回复
int 型数据没有数学运算库。开根号或者log运算都是 double型的
【lua】
int
64
的支持
之前的版本中,lua 只默认支持 double 类型,虽然可以通过修改 luaconf.h 里的定义把 lua number改为
int
64
,但为了
int
64
类型放弃 double 显然不合适,属于顾此失彼。那么,对于
64
bit 的解决方案有很多,基本思路都是使用 8bytes 的string / lightuserdata / userdata修改元表来实现。我们一般使用 8bytes 长的 string 来表示一个
int
64
。这样既可以做唯一的 key 用,又不用做复杂的扩展,属于比较好的处理
Go语言超大数字相加 超出
int
64
表示范围
Go语言计算超长数字串 话不多说,上代码 package main import ( "fmt" "strconv" ) //字符串反转函数 func reverse(str string) string { var result string strLen := len(str) for i := 0; i < strLen; i++ { result = result +...
int
、
int
16、
int
32、
int
64
、float、float16、float32、float
64
在做模型量化的时候,经常遇到这几个类精度表示,做下记录:bits:位数bytes:字节 1bytes = 8 bits单精度用小数用23位存储,加上默认的小数点前的1为1,2^(23+1) = 16777216。因为10^7
int
、double类型计算问题
使用两个
int
变量计算的结果默认是
int
型的值,13883 / 100 = 138如果要获取double类型的结果,两个计算数必须有一个是double类型,((double)13883) / 100 = 138.83注:
数学计算
中,必然的结果,在计算机中不一定正确;计算机计算中,首先会考虑两个变量的类型,然后再计算结果,并根据类型要求,保存计算结果============
用英文单词模拟
数学计算
英文单词模拟
数学计算
C++ 语言
65,208
社区成员
250,517
社区内容
发帖
与我相关
我的任务
C++ 语言
C++ 语言相关问题讨论,技术干货分享,前沿动态等
复制链接
扫一扫
分享
社区描述
C++ 语言相关问题讨论,技术干货分享,前沿动态等
c++
技术论坛(原bbs)
社区管理员
加入社区
获取链接或二维码
近7日
近30日
至今
加载中
查看更多榜单
社区公告
请不要发布与C++技术无关的贴子
请不要发布与技术无关的招聘、广告的帖子
请尽可能的描述清楚你的问题,如果涉及到代码请尽可能的格式化一下
试试用AI创作助手写篇文章吧
+ 用AI写文章