해상에서는 최근에 이르러서야 IT기술을 도입한 IoT(Internet of Things)선박, 자율운항(Autonomous Ship) 등 연구에 들어서고 있으며, 아직까지 운항안전 확보를 위한 시스템은 사람의 관제에 의존하고 있는 형국이다. 본 논문에서는 클러스터링 기법을 이용하여 장거리를 운항하는 선박의 항로 이탈을 탐지한다. 일반적으로 유사 경로를 판별하기 위해 유클리디안 거리(Euclidean Distance, 이하 ED) 또는 이를 활용한 DTW(Dynamic Time Warping) 방식을 비교하지만, 선박 운항(조타)환경에서는 육지나 항공환경과 다르게 속도, 고도, 선회율 등 요소보다 기존부터 경험적으로 검증된 침로(course)와 방향(heading)을 따라 반복하여 운항하는 경향이 짙다. 따라서 벡터 기반의 유사도가 거리기반 유사도보다 정확할 수 있다. 본 논문에서는 AIS(Automatic Identification System) 항적자료에서 코사인 유사도(Cosine Similarity)를 이용하여 비유사도를 산출하였다. 그리고 공간자료에 유용한 EM알고리즘 기반의 클러스터링으로 알려진 가우시안 혼합 모델(Gaussian Mixtures Model, 이하 GMM)을 적용하여 비유사도의 정확도를 보완하고 이탈 항적을 구분하였다. 그리고 운항경로의 표준항로를 제안하여 실시간으로 이 항로를 따라 운항하는 선박의 이상항적을 추적할 수 있도록 모델을 제안하였다. 이 연구를 통하여 표준안전항로를 설정하고, 관제사의 관제구역을 벗어나더라도 이탈항적을 쉽게 발견하여 안전사고를 조기에 식별하고 대처할 수 있을 것으로 기대한다.