好久没用C了,居然报个奇怪的问题....急用,求各位高手帮忙
数据是这样的
float ans[j][mdu+2];当然实际不会这样定义的哈.我拿malloc分配的
float te;
这样处理了一下以后
*(ans + i*(mdu+2) + j) -= *(ans + i*(mdu+2) + aft) * *(ans + be*(mdu+2) + j) / te;
想把太小的数处理成0
if(fabs(*(ans + i*(mdu+2) + j))<1e-6)*(ans + i*(mdu+2) + j)=0;
结果运行到这句话老报错.Floating point error:Domain.
到底是什么错啊??
急用,求各位高手帮忙