关于射线检测（OpenGL）

[linzi0]

关于射线检测的文章：http://www.chinaitpower.com/A/2003-01-12/46848.html

相关的理论大体来自一篇英文资料和一篇总结性的中文资料，分别是：
http://www.gameres.com/Articles/Program/Visual/3D/pick_2004_529.htm
http://www.mvps.org/directx/articles/rayproj.htm
前一篇完整讲述用DirectX实现射线拣取物体的原理和实现。后一篇讲述的是二维屏幕空间到三维世界空间的转换原理。前一篇的名字是“Direct3D中实现图元的鼠标拾取”，它的讲述很好也很透彻。后一篇讲述射线形成的原理，并且有源码例子。
下面就OpenGL进行实现。

第一步：
实现屏幕坐标到三维世界空间坐标的转化，在这一步Opengl要比DirectX简单的多，利用函数 gluUnProject直接可以得到屏幕坐标相应的三维空间坐标，示例如下：
gluUnProject((GLdouble)xpos,(GLdouble)ypos,1.0,mvmatrix,projmatrix,viewport,&wx,&wy,&wz); xpos 和ypos 是以屏幕左下角为原点的屏幕坐标，1.0代表返回zbuffer为1.0处（远剪切面交点）的世界坐标，mvmatrix 为视矩阵，通过GetDoublev(GL_MODELVIEW_MATRIX,mvmatrix)得到，projmatrix为投影矩阵，通过glGetDoublev(GL_PROJECTION_MATRIX,projmatrix)得到，viewport为视口，通过glGetIntegerv(GL_VIEWPORT,viewport)得到，剩下的wx、wy、wz 就是我们要得到的世界坐标，得到这样两个世界坐标，射线就确定了，或者也可以用原点（视点）来代替其中一个点，因为这条射线是从视点出发的。
第二步：
用射线和要检测的三角形求交点，用到的原理和公式如下。
原理一：三角形内的任意一点都可以用变量u、v和其三个顶点坐标来确定，其中0<u<1 0<v<1、,0<u+v<1 ，vPoint = V1 + u*(V2-V1) + v*(V3-V1) ，其中V1、V2、V3为三角形的三个顶点，是已知量。
原理二：射线上的任意一点可以用射线的方向向量（格式化后的）乘以其模（该向量长度）来表示，记为:vPoint =originPoint+dir * len
如果和三角形相交则必定同时满足上面的两个条件所以有：

(-Dir)*len+ (V2-V1)*u + (V3-V1)*v ＝ originPoint －V1

相当方程组: (len ,v ,u 为变量，其它为常量)
（-Dir.x）*len +(V2.x-V1.x)*u + (V3.x – V1.x )*v = originPoint.x －V1.x
（-Dir.y）*len +(V2.y-V1.y)*u + (V3.y – V1.y )*v = originPoint.y －V1.y
（-Dir.z）*len +(V2.z-V1.z)*u + (V3.z – V1.z )*v = originPoint.z －V1.z
或：
len
【－Dir，V2－V1，V3－V1】{ u } = originPoint – V1
v
这是一个线性方程组，根据克拉姆法则，【－Dir，V2－V1，V3－V1】不为零。
所以满足条件：0<v<1,0<u<1, len>0, ,0<u+v<1 和【－Dir，V2－V1，V3－V1】不为零则射线和三角形相交。
【－Dir，V2－V1，V3－V1】写成矩阵形式为：
| -Dir.x , V2.x-V1.x , V3.x – V1.x |
| -Dir.y , V2.y-V1.y , V3.y – V1.x |
| -Dir.z , V2.z-V1.z , V3.z – V1.z |
伪码实现（原理在DirectX Pick例子中有源码实现）：
// 三角形两个边的向量
VECTOR3 edge1 = v1 - v0;
VCTOR3 edge2 = v2 - v0;
VCTOR3 pvec;
VEC3Cross( &pvec, &dir, &edge2 );// 差积
FLOAT det = VEC3Dot( &edge1, &pvec );// 点积
// det其含义为【－Dir，V2－V1，V3－V1】矩阵展开
VECTOR3 tvec;
if( det > 0 )//
{
tvec = orig - v0; // 从正面穿越三角形，三角形和视点相对的面为正面
}
else
{
tvec = v0 - orig;// 反面穿越三角形穿越三角形
det = -det;
}

if( det < 0.0001f )// 接近零视为0
return FALSE;

// 求u的值，求线性方程组的解展开后等同于求点积展开
*u = VEC3Dot( &tvec, &pvec );
if( *u < 0.0f || *u > det )
return FALSE;

// 求v的值
VECTOR3 qvec;
VEC3Cross( &qvec, &tvec, &edge1 );
*v = VEC3Dot( &dir, &qvec );
if( *v < 0.0f || *u + *v > det )
return FALSE;

// 计算t,并把t,u,v放缩为合法值
*t = D3DXVec3Dot( &edge2, &qvec );
// 前面的t,v,u在计算时多乘了一个系数det
FLOAT fInvDet = 1.0f / det;
*t *= fInvDet;
*u *= fInvDet;
*v *= fInvDet;
// 这里这个算法是微软给出的，从几何角度分析其含义十分难懂，真正的方法是根据线性方程租求解，巧的是文中的方法恰好和线性方程组整理出来的东西相符合，这大概就是几何和代数相通的原理。
源码（VC6.0 + OPENGL + WINDOWS2000，调试通过）：
bool IntersectTriangle()
{
GLfloat edge1[3];
GLfloat edge2[3];
edge1[0]=V1[0]-V0[0];
edge1[1]=V1[1]-V0[1];
edge1[2]=V1[2]-V0[2];
edge2[0]=V2[0]-V0[0];
edge2[1]=V2[1]-V0[1];
edge2[2]=V2[2]-V0[2];
GLfloat dir[3];
dir[0]=g_farxyz[0]-g_nearxyz[0];
dir[1]=g_farxyz[1]-g_nearxyz[1];
dir[2]=g_farxyz[2]-g_nearxyz[2];
GLfloat w = (GLfloat)sqrt((double)pow(dir[0],2.0)+(double)pow(dir[1],2.0)+(double)pow(dir[2],2.0));
dir[0] /= w;
dir[1] /= w;
dir[2] /= w;
GLfloat pvec[3];
pvec[0]= dir[1]*edge2[2] - dir[2]*edge2[1];
pvec[1]= dir[2]*edge2[0] - dir[0]*edge2[2];
pvec[2]= dir[0]*edge2[1] - dir[1]*edge2[0];
GLfloat det ;
det = edge1[0]*pvec[0]+edge1[1]*pvec[1]+edge1[2]*pvec[2];
GLfloat tvec[3];
if( det > 0 )
{

tvec[0] = g_nearxyz[0] - V0[0];
tvec[1] = g_nearxyz[1] - V0[1];
tvec[2] = g_nearxyz[2] - V0[2];

}
else
{

tvec[0] = V0[0] - g_nearxyz[0];
tvec[1] = V0[1] - g_nearxyz[1];
tvec[2] = V0[2] - g_nearxyz[2];
det = -det ;

}

if( det < 0.0001f ) return false;

GLfloat u ;
u = tvec[0]*pvec[0]+ tvec[1]*pvec[1]+ tvec[2]*pvec[2];

if( u < 0.0f || u > det ) return false;

GLfloat qvec[3];
qvec[0]= tvec[1]*edge1[2] - tvec[2]*edge1[1];
qvec[1]= tvec[2]*edge1[0] - tvec[0]*edge1[2];
qvec[2]= tvec[0]*edge1[1] - tvec[1]*edge1[0];


GLfloat v;
v = dir[0]*qvec[0]+dir[1]*qvec[1]+dir[2]*qvec[2];
if( v < 0.0f || u + v > det ) return false;

GLfloat t = edge2[0]*qvec[0]+edge2[1]*qvec[1]+edge2[2]*qvec[2];
GLfloat fInvDet = 1.0f / det;
t *= fInvDet;
u *= fInvDet;
v *= fInvDet;
return true;
}
void pick(GLfloat xpos,GLfloat ypos)
{
xpos,ypos;
GLint viewport[4];
GLdouble mvmatrix[16],projmatrix[16];
GLint realy;
GLdouble wx,wy,wz;
glGetIntegerv(GL_VIEWPORT,viewport);
glGetDoublev(GL_MODELVIEW_MATRIX,mvmatrix);
glGetDoublev(GL_PROJECTION_MATRIX,projmatrix);
realy = viewport[3]-(GLint)ypos -1;// 左下角为坐标原点
gluUnProject((GLdouble)xpos,(GLdouble)realy,0.0,mvmatrix,projmatrix,viewport,&wx,&wy,&wz);
g_nearxyz[0] = (GLfloat)wx;
g_nearxyz[1] = (GLfloat)wy;
g_nearxyz[2] = (GLfloat)wz;////
gluUnProject((GLdouble)xpos,(GLdouble)realy,1.0,mvmatrix,projmatrix,viewport,&wx,&wy,&wz);

g_farxyz[0] = (GLfloat)wx;
g_farxyz[1] = (GLfloat)wy;
g_farxyz[2] = (GLfloat)wz;////
g_color = 0.0;
if(IntersectTriangle()) g_color=1.0;
}
GLfloat V0[3]={1.0,0.0,-1.0 };
GLfloat V1[3]={0.0,1.0,-1.0 };
GLfloat V2[3]={0.0,0.0,-2.0 };
Void DrawGLScene(GLvoid)
{
glClear(GL_COLOR_BUFFER_BIT | GL_DEPTH_BUFFER_BIT);
glBegin(GL_TRIANGLES);
glColor3f(g_color,0.0,1.0);
glVertex3fv(V0);// 如果加了glTranslatef之类的变换函数，射线应该反向变化
glVertex3fv(V1);
glVertex3fv(V2);
glEnd();
SwapBuffers(hDC);
}
}
参考该网页之后，我的程序运行没有问题，但是貌似射线检测的功能没有实现，不知道是自己理解有误还是哪里出错了，检查了好几天也没检查到错误，在此把自己的源码贴上，还请大侠们可以指点一二。
由于这个网站不能添加压缩文件，在C3DN网站上有源代码，在此附上网址：http://www.c3dn.net/forum.php?mod=viewthread&tid=4116 请大侠们指点一二！

[linzi0]

[Quote=引用 5 楼 的回复:]
代码又长又乱，看起来太痛苦了。我只想说，射线检测不用这么麻烦。有一个函数叫 glReadPixels，可以用来读取 GL 的深度缓存，楼主只需要调用该函数，读取指定像素的深度值。如果这个值为你设置的清空深度缓存的默认值，说明经过该像素的射线没有碰撞到物体，否则返回的深度值即是碰撞点在当前投影和视图矩阵变换下对应的深度值，然后再调用 gluUnProject 将 winx,winy 设置为像素的整数……
[/Quote]
你好，谢谢你的提示，但是说的太专业，我有的不是很理解。是这样子的，我之前用名称堆栈的方法来获取模型上的三维点，但是三维模型上有的点竟然点击不到，就是有一些死角存在，于是才采用射线检测，上面的例子是我从网站上看到的，应该是伪代码之类的。可以将您的思路跟我说清楚一下吗？万分感谢，我的QQ：790719277

[linzi0]

[Quote=引用 5 楼 的回复:]
代码又长又乱，看起来太痛苦了。我只想说，射线检测不用这么麻烦。有一个函数叫 glReadPixels，可以用来读取 GL 的深度缓存，楼主只需要调用该函数，读取指定像素的深度值。如果这个值为你设置的清空深度缓存的默认值，说明经过该像素的射线没有碰撞到物体，否则返回的深度值即是碰撞点在当前投影和视图矩阵变换下对应的深度值，然后再调用 gluUnProject 将 winx,winy 设置为像素的整数……
[/Quote]

再一次读了您的点评，有些东西看起来有点似懂非懂，真的很感谢，可能还是对原理不清楚吧，真的很希望能够得到指点。谢谢！如果方便的话可否加您的Q联系一下呢。

[linzi0]

[Quote=引用 4 楼 的回复:]
C/C++ code


glReadPixels(x, int(winY), 1, 1, GL_DEPTH_COMPONENT, GL_FLOAT, &winZ);
gluUnProject(winX, winY, winZ, modelview, projection, viewport, &posX, &posY, &posZ);


用这两个函……
[/Quote]
谢谢，我之前也是用了这两个函数，但是返回的值是二维场景的值而不是三维模型的值。

[赵4老师]

搜网络教程“学OpenGL编3D游戏”

[draracle]

你先试试微软提供的那个算法，那个是目前游戏内鼠标射线检查的标准算法，难理解，但是效率很高。

另外需要注意到的是dx是左手系统，gl是右手系统。

[linzi0]

我用的就是微软提供的算法#define BUFFER_LENGTH 64
void CPipeLineView::pick(GLfloat xpos,GLfloat ypos)
{
// Space for selection buffer 定义拣选缓冲区
GLuint selectBuff[BUFFER_LENGTH];
//xpos,ypos;
GLint viewport[4];
GLdouble mvmatrix[16],projmatrix[16];
GLint realy;
double wx1,wy1,wz1;
double wx2,wy2,wz2;


// Setup selection buffer
glSelectBuffer(BUFFER_LENGTH, selectBuff);


glGetDoublev(GL_MODELVIEW_MATRIX,mvmatrix);
glGetDoublev(GL_PROJECTION_MATRIX,projmatrix);
glGetIntegerv(GL_VIEWPORT,viewport);


realy = viewport[3]-(GLint)ypos -1;// 左下角为坐标原点
gluUnProject((GLdouble)xpos,(GLdouble)realy,0.0,mvmatrix,projmatrix,viewport,&wx1,&wy1,&wz1);


gluUnProject((GLdouble)xpos,(GLdouble)realy,1.0,mvmatrix,projmatrix,viewport,&wx2,&wy2,&wz2);

rayStart.x =wx1;
rayStart.y =wy1;
rayStart.z =wz1;
rayEnd.x =wx2;
rayEnd.y =wy2;
rayEnd.z =wz2;

g_color = 0.0f;
if (IntersectTriangle())
{
g_color=1.0f;
}

}

bool CPipeLineView::IntersectTriangle()
{
GLfloat edge1[3];
GLfloat edge2[3];

edge1[0]=V1[0]-V0[0];
edge1[1]=V1[1]-V0[1];
edge1[2]=V1[2]-V0[2];
edge2[0]=V2[0]-V0[0];
edge2[1]=V2[1]-V0[1];
edge2[2]=V2[2]-V0[2];

float dir[3];
dir[0]=rayEnd.x-rayStart.x;
dir[1]=rayEnd.y-rayStart.y;
dir[2]=rayEnd.z-rayStart.z;


GLfloat w = sqrt(pow(dir[0],2)+pow(dir[1],2)+pow(dir[2],2));
dir[0] /= w;
dir[1] /= w;
dir[2] /= w;

GLfloat pvec[3];
pvec[0]= dir[1]*edge2[2] - dir[2]*edge2[1];
pvec[1]= dir[2]*edge2[0] - dir[0]*edge2[2];
pvec[2]= dir[0]*edge2[1] - dir[1]*edge2[0];

GLfloat det ;
det = edge1[0]*pvec[0]+edge1[1]*pvec[1]+edge1[2]*pvec[2];

GLfloat tvec[3];

if( det > 0 )
{

tvec[0] =rayStart.x-V0[0];
tvec[1] =rayStart.y-V0[1];
tvec[2] =rayStart.z-V0[2];
}
else
{

tvec[0] =V0[0] -rayStart.x;
tvec[1] =V0[1] -rayStart.y;
tvec[2] =V0[2] -rayStart.z;

det = -det ;

}

if( det < 0.0001f ) return false;


GLfloat u ;
u = tvec[0]*pvec[0]+ tvec[1]*pvec[1]+ tvec[2]*pvec[2];

if( u < 0.0f || u > det ) return false;

GLfloat qvec[3];
qvec[0]= tvec[1]*edge1[2] - tvec[2]*edge1[1];
qvec[1]= tvec[2]*edge1[0] - tvec[0]*edge1[2];
qvec[2]= tvec[0]*edge1[1] - tvec[1]*edge1[0];


GLfloat v;
v = dir[0]*qvec[0]+dir[1]*qvec[1]+dir[2]*qvec[2];
if( v < 0.0f || u + v > det ) return false;

GLfloat t = edge2[0]*qvec[0]+edge2[1]*qvec[1]+edge2[2]*qvec[2];
GLfloat fInvDet = 1.0f / det;
t *= fInvDet;
u *= fInvDet;
v *= fInvDet;
return true;
}
[Quote=引用 11 楼 的回复:]
你先试试微软提供的那个算法，那个是目前游戏内鼠标射线检查的标准算法，难理解，但是效率很高。

另外需要注意到的是dx是左手系统，gl是右手系统。
[/Quote]

[linzi0]

我把自己的代码贴上来了，还请多多指教，用的就是微软的算法，只是微软的算法和代数里面的线性方程组一样，所以就用来解方程组的方法。[Quote=引用 11 楼 的回复:]
你先试试微软提供的那个算法，那个是目前游戏内鼠标射线检查的标准算法，难理解，但是效率很高。

另外需要注意到的是dx是左手系统，gl是右手系统。
[/Quote]

[linzi0]

可以加一下你的Q吗？我的Q是790719277，感谢！[Quote=引用 11 楼 的回复:]
你先试试微软提供的那个算法，那个是目前游戏内鼠标射线检查的标准算法，难理解，但是效率很高。

另外需要注意到的是dx是左手系统，gl是右手系统。
[/Quote]

[ri_aje]

代码又长又乱，看起来太痛苦了。我只想说，射线检测不用这么麻烦。有一个函数叫 glReadPixels，可以用来读取 GL 的深度缓存，楼主只需要调用该函数，读取指定像素的深度值。如果这个值为你设置的清空深度缓存的默认值，说明经过该像素的射线没有碰撞到物体，否则返回的深度值即是碰撞点在当前投影和视图矩阵变换下对应的深度值，然后再调用 gluUnProject 将 winx,winy 设置为像素的整数索引，返回的深度值直接喂给它，它就会在 posx/y/z 里面返回碰撞点在原 3d 模型中的坐标。有了这个坐标以后，你可以遍历组成模型的多边形，看看碰撞点在那个多边形确定的平面上，找到这样的多边形后，在检测一下碰撞点是否在多边形内部即可。

另一种更直接的方法是通过 GL shader 直接将多变性的整数编号渲染至指定缓存里，然后直接读那个缓存中指定像素的值即可。

[ri_aje]

[Quote=引用 5 楼 的回复:]

代码又长又乱，看起来太痛苦了。我只想说，射线检测不用这么麻烦。有一个函数叫 glReadPixels，可以用来读取 GL 的深度缓存，楼主只需要调用该函数，读取指定像素的深度值。如果这个值为你设置的清空深度缓存的默认值，说明经过该像素的射线没有碰撞到物体，否则返回的深度值即是碰撞点在当前投影和视图矩阵变换下对应的深度值，然后再调用 gluUnProject 将 winx,winy 设置为像素的整……
另一种更直接的方法是通过 GL shader 直接将多变性的整数编号渲染至指定缓存里，然后直接读那个缓存中指定像素的值即可。
[/Quote]
多变性 -> 多边形。这输入法真是悲崔。

[draracle]

下面是我自己用的算法，就是微软算法改的。看看对你有没有帮助。

inline bool TriangleIntersect(
    const eternal::tagVector3D& po, const eternal::tagVector3D& vd, 
    const eternal::tagVector3D& p1, const eternal::tagVector3D& p2, 
    const eternal::tagVector3D& p3, bool& isDorsum, eternal::tagVector3D& intersect)
{
    //TODO Auto-generated method stub
	static const FLOAT tolerance(1e-05f);
    FLOAT r(0.0f), u(0.0f), v(0.0f);

    eternal::tagVector3D e1 = p2 - p1;
	eternal::tagVector3D e2 = p3 - p1;
	eternal::tagVector3D vp = CrossProduct( vd, e2 );

    // Dot product
    FLOAT dt = e1 * vp;

    // Determinant is positive.
	if( dt >= tolerance )
	{
        isDorsum = false;
		eternal::tagVector3D vt = po - p1;

        u = vt * vp;
		if( u < 0.0f || u > dt ) return false;

		eternal::tagVector3D vq = CrossProduct( vt, e1 );

		v = vd * vq;
		if( v < 0.0f || u + v > dt ) return false;

		r = e2 * vq;
		if( r < 0.0f ) return false;
	}

    // Determinant is negative.
	else 
    if( dt <= -tolerance ) 
	{
        isDorsum = true;
		eternal::tagVector3D vt = po - p1;

        u = vt * vp;
		if( u > 0.0f || u < dt ) return false;

		eternal::tagVector3D vq = CrossProduct( vt, e1 );

        v = vd * vq;
		if( v > 0.0f || u + v < dt ) return false;

		r = e2 * vq;
		if( r > 0.0f ) return false;
	}

    // Parallel ray.
	else
	{
		return false;
	}

	intersect = po + vd * ( r / dt );
    return true;
}

[draracle]

这个算法有个缺陷，如果检测点正好在边上，那么得不到正确的结果。

[draracle]

你的检测算法那个部分和我用的不一样。我没时间去分析你的算法的原理，你可以自己尝试一下，把我给你的那个算法移植过去。我用的那个算法就是微软提供的，只是为了适应项目，写法上略作调整而已。

[linzi0]

您好，我按照您的算法写了，运行之后，发现那个函数的返回值一直都是false。[Quote=引用 19 楼 的回复:]
你的检测算法那个部分和我用的不一样。我没时间去分析你的算法的原理，你可以自己尝试一下，把我给你的那个算法移植过去。我用的那个算法就是微软提供的，只是为了适应项目，写法上略作调整而已。
[/Quote]

[linzi0]

您好，是否可以给一下邮箱，我把按照您的算法做好的程序发给您，（我已经严格按照您的算法来编的，但是始终检测不到三角形）还希望您可以指点一二。谢谢！[Quote=引用 19 楼 的回复:]
你的检测算法那个部分和我用的不一样。我没时间去分析你的算法的原理，你可以自己尝试一下，把我给你的那个算法移植过去。我用的那个算法就是微软提供的，只是为了适应项目，写法上略作调整而已。
[/Quote]

[draracle]

[e-mail]

[linzi0]

[Quote=引用 16 楼 的回复:]
这个算法有个缺陷，如果检测点正好在边上，那么得不到正确的结果。
[/Quote]想请问一下，微软的算法看起来好像原理是对的，为什么要修改呢？

[linzi0]

我的核心代码如下，希望16楼的大侠可以指点一下，谢谢！

#define BUFFER_LENGTH 64
void CPipeLineView::pick(GLfloat xpos,GLfloat ypos)
{
// Space for selection buffer 定义拣选缓冲区
GLuint selectBuff[BUFFER_LENGTH];
//xpos,ypos;
GLint viewport[4];
GLdouble mvmatrix[16],projmatrix[16];
GLint realy;
double wx1,wy1,wz1;
double wx2,wy2,wz2;

// Setup selection buffer
glSelectBuffer(BUFFER_LENGTH, selectBuff);


glGetDoublev(GL_MODELVIEW_MATRIX,mvmatrix);
glGetDoublev(GL_PROJECTION_MATRIX,projmatrix);
glGetIntegerv(GL_VIEWPORT,viewport);


realy = viewport[3]-(GLint)ypos -1;// 左下角为坐标原点
gluUnProject((GLdouble)xpos,(GLdouble)realy,0.0,mvmatrix,projmatrix,viewport,&wx1,&wy1,&wz1);


gluUnProject((GLdouble)xpos,(GLdouble)realy,1.0,mvmatrix,projmatrix,viewport,&wx2,&wy2,&wz2);

rayStart.x =wx1;
rayStart.y =wy1;
rayStart.z =wz1;
rayEnd.x =wx2;
rayEnd.y =wy2;
rayEnd.z =wz2;

g_color = 0.0f;
char strName[50];
if (IntersectTriangle())
{
strcpy(strName,"you have selected the triangle");
//g_color=1.0f;
}
else
{
strcpy(strName,"you haven't selected the triangle");
}
AfxMessageBox(strName);
}

bool CPipeLineView::IntersectTriangle()
{
GLfloat edge1[3];
GLfloat edge2[3];

edge1[0]=V1[0]-V0[0];
edge1[1]=V1[1]-V0[1];
edge1[2]=V1[2]-V0[2];
edge2[0]=V2[0]-V0[0];
edge2[1]=V2[1]-V0[1];
edge2[2]=V2[2]-V0[2];

float dir[3];
dir[0]=rayEnd.x-rayStart.x;
dir[1]=rayEnd.y-rayStart.y;
dir[2]=rayEnd.z-rayStart.z;

GLfloat w = sqrt(pow(dir[0],2)+pow(dir[1],2)+pow(dir[2],2));
dir[0] /= w;
dir[1] /= w;
dir[2] /= w;

GLfloat pvec[3];
pvec[0]= dir[1]*edge2[2] - dir[2]*edge2[1];
pvec[1]= dir[2]*edge2[0] - dir[0]*edge2[2];
pvec[2]= dir[0]*edge2[1] - dir[1]*edge2[0];

GLfloat det ;
det = edge1[0]*pvec[0]+edge1[1]*pvec[1]+edge1[2]*pvec[2];

GLfloat tvec[3];

if( det > 0 )
{

tvec[0] =rayStart.x-V0[0];
tvec[1] =rayStart.y-V0[1];
tvec[2] =rayStart.z-V0[2];
}
else
{

tvec[0] =V0[0] -rayStart.x;
tvec[1] =V0[1] -rayStart.y;
tvec[2] =V0[2] -rayStart.z;

det = -det ;

}

if( det < 0.0001f ) return false;


GLfloat u ;
u = tvec[0]*pvec[0]+ tvec[1]*pvec[1]+ tvec[2]*pvec[2];

if( u < 0.0f || u > det ) return false;

GLfloat qvec[3];
qvec[0]= tvec[1]*edge1[2] - tvec[2]*edge1[1];
qvec[1]= tvec[2]*edge1[0] - tvec[0]*edge1[2];
qvec[2]= tvec[0]*edge1[1] - tvec[1]*edge1[0];


GLfloat v;
v = dir[0]*qvec[0]+dir[1]*qvec[1]+dir[2]*qvec[2];
if( v < 0.0f || u + v > det ) return false;

GLfloat t = edge2[0]*qvec[0]+edge2[1]*qvec[1]+edge2[2]*qvec[2];
GLfloat fInvDet = 1.0f / det;
t *= fInvDet;
u *= fInvDet;
v *= fInvDet;
return true;
}

void CPipeLineView::OnLButtonDown(UINT nFlags, CPoint point)
{
// TODO: Add your message handler code here and/or call default

DrawScene(GL_RENDER);
pick(point.x,point.y);

CView::OnLButtonDown(nFlags, point);
}
void CPipeLineView::DrawScene(GLint mode)
{
glMatrixMode(GL_MODELVIEW);
glClear(GL_COLOR_BUFFER_BIT | GL_DEPTH_BUFFER_BIT);
glPushMatrix();
glTranslatef(0.0f,0.0f,-6.0f);
glBegin(GL_TRIANGLES);
glColor3f(g_color,0.0,1.0);
glVertex3fv(V0);// 如果加了glTranslatef之类的变换函数，射线应该反向变化
glVertex3fv(V1);
glVertex3fv(V2);
glEnd();

glTranslatef(2.0f,0.0f,-6.0f);
glBegin(GL_TRIANGLES);
glColor3f(1.0,g_color,0.0);
glVertex3fv(V1);
glVertex3fv(V0);
glVertex3fv(V2);
glEnd();
glPopMatrix();
SwapBuffers(wglGetCurrentDC());
}

[linzi0]

您好，代码已经发到您的邮箱，灰常感谢！[Quote=引用 22 楼 的回复:]
[e-mail]
[/Quote]

[mhy09]

不知lz解决没有？我也遇到了同样的问题。返回总是FALSE……