社区
Delphi
帖子详情
一个数值计算问题,不难
amartapple
2003-04-22 12:13:57
我的代码:
arccos(0.5*(r-g+r-b)/sqrt(a));
其中r,g,b为integer型,a为extended型
编译正确,运行程序崩溃,信息为 invalid floating point operation
请问如何解决
...全文
29
7
打赏
收藏
一个数值计算问题,不难
我的代码: arccos(0.5*(r-g+r-b)/sqrt(a)); 其中r,g,b为integer型,a为extended型 编译正确,运行程序崩溃,信息为 invalid floating point operation 请问如何解决
复制链接
扫一扫
分享
转发到动态
举报
写回复
配置赞助广告
用AI写文章
7 条
回复
切换为时间正序
请发表友善的回复…
发表回复
打赏红包
amartapple
2003-04-24
打赏
举报
回复
没有人知道么
amartapple
2003-04-23
打赏
举报
回复
测试过了,在-1和1之间
谁还有
swayi21
2003-04-23
打赏
举报
回复
may be the operator of arccos() is out of range!
amartapple
2003-04-23
打赏
举报
回复
real也不行呀,谁还有别的方法
tpmao
2003-04-22
打赏
举报
回复
UP!!!
haoco
2003-04-22
打赏
举报
回复
将a改为real型
amartapple
2003-04-22
打赏
举报
回复
sqrt()是开方么,帮助里说要extended,我试一下real
[人工智能-数学基础-1]:深度学习中的数学地图:
计算
机、数学、
数值
计算
、
数值
分析、
数值
计算
、微分、积分、概率、统计.....
第4章
数值
计算
方法 4.1 什么是
数值
计算
4.2 研究领域 1. 为什么要谈这个话题? 深度学习本质上是
计算
机与数学相融合一门技术。 深度学习的算法,本质上就是数学。深度学习本质上就是通过数学建模,任何通过.
shell中浮点
数值
计算
一、shell中
数值
计算
方法 shell中常用的
数值
计算
方法是使用运算符号:$(()) 例如,使用命令: echo $((5*6+1)) 即会得到正确的
计算
结果。但是该方法存在的
问题
是不能对浮点数进行操作,如下: 可以看到当使用该...
数值
计算
中矩阵运算
比如软件比较庞大,收费,以及效率等
问题
。 2.使用Python的numpy库,几乎能代替matlib,但是程序的调试难度上升了一些,花的时间增加了。优点是轻量,部署效率高,能够快速放到服务器上跑,同时有一些第三方的轮子...
【matlab】
数值
计算
实现电路仿真
计算
机可以大量、快速的运算,利用
计算
机
计算
数学
问题
,称为
数值
计算
。 对于各种数学
问题
,要考虑到
计算
机与编程的特点,设计恰当的数学模型、合适的
数值
计算
方法和形式。 求解 求解可以理解为,
计算
出某
问题
的解,...
数值
计算
之
数值
积分与微分
一个
函数在编译时被分配给
一个
入口地址,这个入口地址就称为函数的指针。可以定义
一个
指针变量指向函数,该指针称为指向函数的指针变量。1.定义p是指向函数的指针变量,它可以指向类型为整型 且有两个整型参数的函数...
Delphi
5,388
社区成员
262,730
社区内容
发帖
与我相关
我的任务
Delphi
Delphi 开发及应用
复制链接
扫一扫
分享
社区描述
Delphi 开发及应用
社区管理员
加入社区
获取链接或二维码
近7日
近30日
至今
加载中
查看更多榜单
社区公告
暂无公告
试试用AI创作助手写篇文章吧
+ 用AI写文章