점이 삼각형 내부에 있는지 외부에 있는지 판별

점 A, B, C로 구성된 삼각형이 있을 때 임의의 점 P가 삼각형 내부에 있는지 외부에 있는지의 판별은 벡터의 외적의 응용이라 할 수 있다. 먼저 기본 조건으로 점 A, B, C로 구성된 삼각형은 점 A, B, C의 순서가 반시계 방향으로 정렬이 되어있어야 한다. 정렬이 되어있다면, 저번 시간에 벡터 내적과 외적을 이용한 왼쪽 오른쪽 판별을 통해 임의의 점 P가 내부[왼쪽]에 있는지 외부[오른쪽]에 있는지 알 수 있다. 먼저 삼각형[평면]의 수직인 벡터인 법선 벡터를 구한다. 세 점을 알고 있기 때문에 법선 벡터는 평면의 방정식[삼각형의 선분 AB, BC, CA 중 두 벡터를 외적하면 평면의 수직인인 벡터 법선 벡터를 구할 수 있다.]을 통해 알 수있다. 그 다음 선분 AB, AP의 벡터를 외적한 뒤에 외적한 벡터를 평면의 수직인 벡터와 내적을 한다. 여기서 미리 삼각형의 점 A, B, C를 반시계 방향으로 정렬을 해놓았기 때문에 내적한 결과 값이 0보다 크면 임의의 점 P는 내부[왼쪽]에 있다. 하지만 삼각형이기 때문에 선분 AB, AP / 선분 BC, BP / 선분 CA, CP의 외적->내적을 한 결과 값이 모두 0보다 커야지 삼각형 내부에 있다는 것이다.