초고속, 초저지연, 초밀집의 5G 무선 네트워크 기술이 보편화되면서 무선 통신 장치를 대상으로 한 재밍 공격의 피해가 증가하고 있다. 특히 3GPP NR에서 핵심 후보 기술로 논의되고 있는 스마트 리피터는 Beyond 5G 네트워크 환경에서 스마트 인프라의 역할을 수행하게 되므로 모바일 재머와 같은 지능형 재머 공격에 쉽게 노출된다. 그러나 종래의 재밍 대응 기술은 단편적이고 지엽적인 정보에 의존한 탐지 방법이어서 정교한 재밍 공격에 대응하기 어렵다. 그리고 최근 기계학습 기반의 탐지 방법이 연구되고 있으나, 특정 노드에 학습이 과중되는 문제가 있으며, 로컬 탐지 결과에 의존하기 때문에 전역적으로 최적의 대응을 하기 어렵다. 본 연구에서는 스마트 리피터와 같이 고정된 노드 환경에서 협력적 재머 탐지를 통해 효율적으로 재머를 회피하는 머신러닝 기반 협력적 클러스터링 (Machine Learning-based Cooperative Clustering, MLCC) 기법을 제안한다. MLCC는 스마트 리피터와 AP의 로드밸런싱을 통해 재머를 협력적으로 검출하고, 이를 기반으로 에너지 소비를 최소화 할 수 있는 최적의 경로를 선택해 재머 탐지 성능과 네트워크 성능을 최적화한다. 평가 결과에 따르면 MLCC 기법을 적용하면 종래 방법 대비 재머 탐지 정확도가 최대 5.5%, 평균 1.9% 향상되었다. 또한, 재머의 이동속도에 따른 성능을 평가했을 때 MLCC는 random model 대비 처리율은 최대 35.77%, 평균 17.49% 향상되었고, 에너지 소모량은 최대 43.4%, 평균 41.09% 감소되었으며, 지연 시간은 최대 6.67%, 평균 4.97% 감소되었다. 제안하는 MLCC는 beyond-5G 스마트 리피터 네트워크 환경에서 재밍 공격에 효과적인 대응을 위해 적용될 수 있다.