一个数值计算问题,不难

amartapple 2003-04-22 12:13:57
我的代码:

arccos(0.5*(r-g+r-b)/sqrt(a));

其中r,g,b为integer型,a为extended型

编译正确,运行程序崩溃,信息为 invalid floating point operation

请问如何解决
...全文
29 7 打赏 收藏 转发到动态 举报
写回复
用AI写文章
7 条回复
切换为时间正序
请发表友善的回复…
发表回复
amartapple 2003-04-24
  • 打赏
  • 举报
回复
没有人知道么
amartapple 2003-04-23
  • 打赏
  • 举报
回复
测试过了,在-1和1之间
谁还有
swayi21 2003-04-23
  • 打赏
  • 举报
回复
may be the operator of arccos() is out of range!
amartapple 2003-04-23
  • 打赏
  • 举报
回复
real也不行呀,谁还有别的方法
tpmao 2003-04-22
  • 打赏
  • 举报
回复
UP!!!
haoco 2003-04-22
  • 打赏
  • 举报
回复
将a改为real型
amartapple 2003-04-22
  • 打赏
  • 举报
回复
sqrt()是开方么,帮助里说要extended,我试一下real

5,388

社区成员

发帖
与我相关
我的任务
社区描述
Delphi 开发及应用
社区管理员
  • VCL组件开发及应用社区
加入社区
  • 近7日
  • 近30日
  • 至今
社区公告
暂无公告

试试用AI创作助手写篇文章吧