error C2668: “fabs”: 对重载函数的调用不明确

[qq_36141011]

Visual Studio调试C++程序中出现error C2668: “fabs”: 对重载函数的调用不明确
fabs提示错误 有多个重载函数fabs实例与参数列表匹配

sumr+=(long)fabs(pr1 - pr2);
sumg+=(long)fabs(pg1 - pg2);
sumb+=(long)fabs(pb1 - pb2);
其中 p1,p2,pr1,pr2,pg1,pg2,pb1,pb2为BYTE型

请问这是怎么回事？

[小灸舞]

BYTE应该是unsigned char吧？
VS对数学函数的参数检查更为严格，你把你的实参强制转换下类型才行

[qq_36141011]

引用 楼主 qq_36141011 的回复:

Visual Studio调试C++程序中出现error C2668: “fabs”: 对重载函数的调用不明确 fabs提示错误 有多个重载函数fabs实例与参数列表匹配 sumr+=(long)fabs(pr1 - pr2); sumg+=(long)fabs(pg1 - pg2); sumb+=(long)fabs(pb1 - pb2); 其中 p1,p2,pr1,pr2,pg1,pg2,pb1,pb2为BYTE型 请问这是怎么回事？

请问如何可以实现实参强制转换类型？

[yshuise]

sumr+=(long)fabs((long)pr1 - (long)pr2);

[paschen]

首先 fabs是对浮点数的，如果你不需要用浮点数版的，把fabs改成abs

[paschen]

fabs/abs函数有多种重载形式，如果你的参数类型不满足，进行一下类型转换， 如(int)a ——将a转换为int 类型

[lm_whales]

fabs 缺省参数是 double 类型的 不论C，C++ 浮点函数 double 类型是没问题的 其他，要么重载的，要么扩展的。