鼠标选取3D物体的问题 - 为什么选不到?

[jxc]

下面是某个例子的代码,为什么实际选取不到呢?
我用的是VC6 , DX8.1

long cApp::GetCharacterAt(long XPos, long YPos)
{
D3DXVECTOR3 vecRay, vecDir;
D3DXVECTOR3 vecMeshRay, vecMeshDir;
D3DXVECTOR3 vecTemp;
D3DXMATRIX matProj, matView, *matWorld;
D3DXMATRIX matInv;
DWORD FaceIndex;
BOOL Hit;
float u, v, Dist;
sCharacter *CharPtr;
sMesh *MeshPtr;

// Get parent character object
if((CharPtr = m_CharController.GetParentCharacter()) == NULL)
return -1;

// Get the project, view, and inversed view matrices
m_Graphics.GetDeviceCOM()->GetTransform(D3DTS_PROJECTION, \
&matProj);

// Compute the vector of the pick ray in screen space
vecTemp.x = (((2.0f * (float)XPos) / \
(float)m_Graphics.GetWidth()) - 1.0f) / \
matProj._11;
vecTemp.y = -(((2.0f * (float)YPos) / \
(float)m_Graphics.GetHeight()) - 1.0f) / \
matProj._22;
vecTemp.z = 1.0f;

m_Graphics.GetDeviceCOM()->GetTransform(D3DTS_VIEW, \
&matView);
D3DXMatrixInverse(&matInv, NULL, &matView);

// Transform the screen space ray
vecRay.x = matInv._41;
vecRay.y = matInv._42;
vecRay.z = matInv._43;

vecDir.x = vecTemp.x * matInv._11 + \
vecTemp.y * matInv._21 + \
vecTemp.z * matInv._31;
vecDir.y = vecTemp.x * matInv._12 + \
vecTemp.y * matInv._22 + \
vecTemp.z * matInv._32;
vecDir.z = vecTemp.x * matInv._13 + \
vecTemp.y * matInv._23 + \
vecTemp.z * matInv._33;

// Scan through each character and intersect check
while(CharPtr != NULL) {

// Scan through character meshes
MeshPtr = CharPtr->Object.GetMesh()->GetParentMesh();
while(MeshPtr != NULL) {

// Transform ray and direction by object's
// world transformation matrix
matWorld = CharPtr->Object.GetMatrix();
D3DXMatrixInverse(&matInv, NULL, matWorld);

D3DXVec3TransformCoord(&vecMeshRay, &vecRay, &matInv);
D3DXVec3TransformNormal(&vecMeshDir, &vecDir, &matInv);

// Check for intersection
D3DXIntersect(MeshPtr->m_Mesh, &vecMeshRay,&vecMeshDir, \
&Hit, &FaceIndex, &u, &v, &Dist,NULL,NULL);

// Check if ray hit character and return ID if so
if(Hit == TRUE)
return CharPtr->ID;

// Go to next mesh
MeshPtr = MeshPtr->m_Next;
}

// Go to next character
CharPtr = CharPtr->Next;
}

return -1; // Return no hit
}

[pzh508]

换成这样的方式试试：
……
D3DXMatrixInverse(&matInv, NULL, &matView);
（前面算view的逆矩阵的不变）

//到这里然后先不算射线方向原点,而是遍历物体,得出物体的逆World矩阵再算射线原点
while(CharPtr != NULL)
{
……
matWorld = CharPtr->Object.GetMatrix();
d3dxmatrix matWorldInv ;
D3DXMatrixInverse(&matWorldInv , NULL, matWorld);
d3dxmatrix m ;
D3DXMatrixMultiply(&m,&matInv,&matWorldInv );
vecDir.x = vecTemp.x*m._11 + vecTemp.y*m._21 + vecTemp.z*m._31;
vecDir.y = vecTemp.x*m._12 + vecTemp.y*m._22 + vecTemp.z*m._32;
vecDir.z = vecTemp.x*m._13 + vecTemp.y*m._23 + vecTemp.z*m._33;
vecRay.x = m._41;
vecRay.y = m._42;
vecRay.z = m._43;
D3DXIntersect(MeshPtr->m_Mesh, &vecRay,&vecDir, \
&Hit, &FaceIndex, &u, &v, &Dist,NULL,NULL);
……

}

[pzh508]

我一直都是这样做的，没有出现过pick不到的情况

[jxc]

各位星级的英雄,请指点一下啊.

[jxc]

我试过还是不行,哪位帮我看看?我提供完整的源代码
我的msn: [e-mail]

[pzh508]

不可能的啊，发给我瞧瞧，我的邮箱[e-mail]

[KingofMagic]

3D中pick时，如果有物体旋转时不能旋转视点，否则pick就会出错，只能旋转物体！你可能就是这个原因。当不旋转物体时可以pick到，但是旋转后有些就pick不到，是这样吧？

[jxc]

代码是摘自Progam role-playing-games with directx 的battle的例子.

[jxc]

太意外了吧？ 竟然是D3DX库函数的问题？？
－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－
D3DXIntersect(MeshPtr->m_Mesh, &vecMeshRay,&vecMeshDir, &Hit, &FaceIndex, &u, &v, &Dist,NULL,NULL);

被 pzh508(小猪) 改成自定义的检测函数就好了...


他的代码如下（没有版权吧？呵呵）：
－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－
long cApp::GetCharacterAt(long XPos, long YPos)
{
D3DXVECTOR3 vecRay, vecDir;
D3DXVECTOR3 vecMeshRay, vecMeshDir;
D3DXVECTOR3 vecTemp;
D3DXMATRIX matProj, matView, *matWorld;
D3DXMATRIX matInv;
DWORD FaceIndex;
BOOL Hit = FALSE ;
float u, v, Dist;
sCharacter *CharPtr;
sMesh *MeshPtr;

// Get parent character object
if((CharPtr = m_CharController.GetParentCharacter()) == NULL)
return -1;

// Get the project, view, and inversed view matrices
m_Graphics.GetDeviceCOM()->GetTransform(D3DTS_PROJECTION,&matProj);

// Compute the vector of the pick ray in screen space
vecTemp.x = (((2.0f * (float)XPos) /(float)m_Graphics.GetWidth()) - 1.0f) /matProj._11;
vecTemp.y = -(((2.0f * (float)YPos) /(float)m_Graphics.GetHeight()) - 1.0f) /matProj._22;
vecTemp.z = 1.0f;

m_Graphics.GetDeviceCOM()->GetTransform(D3DTS_VIEW, &matView);
D3DXMatrixInverse(&matInv, NULL, &matView);

// Transform the screen space ray
vecRay.x = matInv._41;
vecRay.y = matInv._42;
vecRay.z = matInv._43;

vecDir.x = vecTemp.x * matInv._11 + vecTemp.y * matInv._21 +vecTemp.z * matInv._31;
vecDir.y = vecTemp.x * matInv._12 +vecTemp.y * matInv._22 +vecTemp.z * matInv._32;
vecDir.z = vecTemp.x * matInv._13 +vecTemp.y * matInv._23 +vecTemp.z * matInv._33;

// Scan through each character and intersect check
while(CharPtr != NULL)
{
// Scan through character meshes
MeshPtr = CharPtr->Object.GetMesh()->GetParentMesh();
while(MeshPtr != NULL)
{
// Transform ray and direction by object's world transformation matrix
matWorld = CharPtr->Object.GetMatrix();
D3DXMatrixInverse(&matInv, NULL, matWorld);
D3DXVec3TransformCoord(&vecRay, &vecRay, &matInv);
D3DXVec3TransformNormal(&vecDir, &vecDir, &matInv);


LPD3DXBASEMESH pMesh = MeshPtr->m_Mesh ;
LPDIRECT3DVERTEXBUFFER8 pVB;
LPDIRECT3DINDEXBUFFER8 pIB;
pMesh->GetVertexBuffer( &pVB );
pMesh->GetIndexBuffer( &pIB );
WORD* pIndices;
D3DVERTEX* pVertices;

pIB->Lock( 0, 0, (BYTE**)&pIndices, 0 );
pVB->Lock( 0, 0, (BYTE**)&pVertices, 0 );


DWORD dwNumFaces = MeshPtr->m_Mesh->GetNumFaces();
FLOAT fBary1, fBary2;
FLOAT fDist;
for( DWORD i=0; i<dwNumFaces; i++ )
{
D3DXVECTOR3 v0 = pVertices[pIndices[3*i+0]].p;
D3DXVECTOR3 v1 = pVertices[pIndices[3*i+1]].p;
D3DXVECTOR3 v2 = pVertices[pIndices[3*i+2]].p;

// Check if the pick ray passes through this point
if( IntersectTriangle( vecRay, vecDir, v0, v1, v2,&fDist, &fBary1, &fBary2 ) )
{
Hit = TRUE ;
}
}


//一般情况下不要使用D3D的函数
// D3DXIntersect(MeshPtr->m_Mesh, &vecMeshRay,&vecMeshDir, &Hit, &FaceIndex, &u, &v, &Dist,NULL,NULL);

// Check if ray hit character and return ID if so
if(Hit == TRUE)
return CharPtr->ID;

// Go to next mesh
MeshPtr = MeshPtr->m_Next;
}

// Go to next character
CharPtr = CharPtr->Next;
}

return -1; // Return no hit
}



BOOL cApp::IntersectTriangle( const D3DXVECTOR3& orig,
const D3DXVECTOR3& dir, D3DXVECTOR3& v0,
D3DXVECTOR3& v1, D3DXVECTOR3& v2,
FLOAT* t, FLOAT* u, FLOAT* v )
{
// Find vectors for two edges sharing vert0
D3DXVECTOR3 edge1 = v1 - v0;
D3DXVECTOR3 edge2 = v2 - v0;

// Begin calculating determinant - also used to calculate U parameter
D3DXVECTOR3 pvec;
D3DXVec3Cross( &pvec, &dir, &edge2 );

// If determinant is near zero, ray lies in plane of triangle
FLOAT det = D3DXVec3Dot( &edge1, &pvec );

D3DXVECTOR3 tvec;
if( det > 0 )
{
tvec = orig - v0;
}
else
{
tvec = v0 - orig;
det = -det;
}

if( det < 0.0001f )
return FALSE;

// Calculate U parameter and test bounds
*u = D3DXVec3Dot( &tvec, &pvec );
if( *u < 0.0f || *u > det )
return FALSE;

// Prepare to test V parameter
D3DXVECTOR3 qvec;
D3DXVec3Cross( &qvec, &tvec, &edge1 );

// Calculate V parameter and test bounds
*v = D3DXVec3Dot( &dir, &qvec );
if( *v < 0.0f || *u + *v > det )
return FALSE;

// Calculate t, scale parameters, ray intersects triangle
*t = D3DXVec3Dot( &edge2, &qvec );
FLOAT fInvDet = 1.0f / det;
*t *= fInvDet;
*u *= fInvDet;
*v *= fInvDet;

return TRUE;
}

[寻开心]

dxsdk里面的函数没有问题，是你们自己理解的问题

在pick的例子当中，运动的是视点不是物体
所以在处理当中简化了对world矩阵的处理

因此无论你对物体做移动，拉伸还是旋转操作都会导致原版的代码无效的


dxsdk的例子就是演示特定功能的，不要把他们想象成为通用
对于pick来说，如果设置了非单位的变换矩阵，那么在调用dxsdk的辅助函数计算相交的时候
对于射线必须使用world变换阵的逆矩阵处理一下才可以

[寻开心]

看了代码，对应改造成为下面这样就可以了
matWorld = CharPtr->Object.GetMatrix(); // 获取world矩阵
D3DXMATRIX matWorldInv ;
D3DXMatrixInverse(&matWorldInv, NULL, matWorld); // 获取world逆矩阵
D3DXVec3TransformCoord(&vecMeshRay, &vecRay, &matWorldInv); // 用逆矩阵变换射线的两个端点
D3DXVec3TransformNormal(&vecMeshDir, &vecDir, &matWorldInv); //

//用变换后的射线进行检测
D3DXIntersect(MeshPtr->m_Mesh, &vecMeshRay,&vecMeshDir, \
&Hit, &FaceIndex, &u, &v, &Dist, NULL, NULL);

[pzh508]

已经改好了，发到你的邮箱了，你自己看看吧，
还有我刚开始跟你说的那种方法其实在它这个例子里是不行的，因为它用了D3D相交方法，而我那个算法是和包围盒的相交
（没有想到Progam role-playing-games with directx 里面竟然还有这样的代码，不错呀）

[pzh508]

to KingofMagic(大魔头) :
为什么会“3D中pick时，如果有物体旋转时不能旋转视点，否则pick就会出错”？？
视点旋转了，则view矩阵也变了，那么射线也相应变了(物体旋转，射线也得变换)，所以pick也照样准确的啊，怎么会出错？

[pzh508]

to happy__888([顾问团]寻开心) ：
我知道，其实它原来的源代码就是这样做的，事实上也应该经过World变换后才行，但实际的结果就是pick不到，我也没有搞懂为什么，所以后来我才换成自定义的函数就可以pick到，
请注意：那条射线的变换方法是一样的，没有改变，单单就没有使用D3DXIntersect这个函数而已

[jxc]

昨天和happy__888交流了一下，现在的观点是认为DX8和DX8.1的差异造成的，在DX8下一点问题都没有。
原作者有相应的fix方法，可惜google上查到的网址已经失效了。
pzh508 改后的代码虽然能pick到，但好像有点问题，有时pick的不是鼠标点击的那个。

[寻开心]

不是那个函数的问题，你完全可以在pick的例子来测试那个d3dx函数的

觉得和变换矩阵的获取方法有关系，在dx8和8.1当中skinmesh的处理方式不同，差异应该是在这里

[pzh508]

to happy__888([顾问团]寻开心):
有道理，dx8和8.1当中skinmesh的数据处理不一样，所以有可能在使用D3DXIntersect函数时其函数里面得到MESH的数据有差错导致的

[pzh508]

to jxc(GameHeart) ：
恩，今天仔细检测了一下，是有一些不准确，不过判断方法应该是没有错误的，我在dx2004、dx9.0b下用那个方法判断没有一点问题，估计就是MESH数据结构不同造成的！ *_* )