5G는 공공 및 사회 부문의 혁신적인 변화를 가능하게 하며 디지털 대전환 시대로 나아가는데 중요한 고속도로 역할을 한다. 실제로 5G 기술을 통해 로봇, 스마트팩토리, 자율 주행 등 다양한 서비스를 실현하고 있지만, 5G가 디지털 대전환의 핵심 인프라로 자리 잡기 위해서는 강력한 보안이 뒷받침되어야 한다.
강력한 보안을 지원하기 위한 여러 기법 중, 코어 네트워크에 접속하기 위한 초기 인증은 안전한 5G 서비스를 이용하기 위한 첫 과정이다. LTE (Long-Term Evolution)에서는 가입자 식별자가 평문으로 전송되기에 초기 인증이 취약하였지만, 5G 네트워크에서는 가입자 식별자를 암호화하여 이를 개선하였다. 하지만 이러한 노력에도 불구하고 5G 초기 인증 프로토콜인 5G-AKA (Authentication and Key Management)에서는 순방향 비밀성 미지원, SUCI (Subscription Concealed Identifier) 재전송 공격, 연결성 공격 등 다양한 취약점이 발표되고 있으며, 이를 개선하는 5G 초기 인증 프로토콜이 필요한 시점이다. 또한 B5G (Beyond 5G)/6G에서는 초기 인증 시 생성된 자격증명을 애플리케이션 단에서 재사용하는 표준화가 진행되고 있다 (5G Authentication and Key Management for Applications, 5G-AKMA). 5G-AKMA는 초기 인증을 통해 파생된 세션키를 기반으로 애플리케이션 계층과의 인증을 수행한다. 하지만 세션키가 유출된다면, 5G-AKMA는 취약할 수 있으며, 5G-AKMA에서의 기밀성 침해는 데이터 유출, QoS (Quality of Service)와 직결되기에 키에 대한 강력한 보안성 지원은 필수적이다. 그러므로 초기 인증을 통해 파생된 세션키에 대한 순방향 비밀성은 강력한 보안성 지원을 위해 필수적으로 충족되어야 한다. 순방향 비밀성이란, 롱텀키(long-term key)가 유출되었을 때, 과거의 세션키가 유출되지 않는 경우를 말한다. 하지만 5G 초기 인증 프로토콜인 5G-AKA는 순방향 비밀성을 만족하지 못하기 때문에 이를 지원하기 위한 다양한 프로토콜들이 제안되었다.
실제로 이전 연구에서는 연결성 공격을 해결하고 순방향 비밀성 지원을 위해 ECIES (Elliptic Curve Integrated Encryption Scheme)를 통해 생성된 홈 네트워크의 공유키를 재사용했지만 순방향 비밀성을 제공하지 못한다. 따라서 본 논문에서는 순방향 비밀성을 지원하는 5G 초기 인증 프로토콜 (5G-AKA-Forward Secrecy)을 제안한다. 제안한 프로토콜은 홈 네트워크에서 타원곡선 디피-헬만 키를 생성하여 이를 통해 순방향 비밀성을 지원한다.
제안 프로토콜의 안전성을 검증하기 위해 BAN Logic과 ProVerif이라는 두 가지 도구를 활용하여 정형화 검증을 수행한다. 하지만 BAN Logic의 경우 순방향 비밀성을 검증하는 기능이 없기에 순방향 비밀성을 검증할 수 있는 새로운 규칙을 추가하여 검증한다. 새로 추가한 FS (Forwoard Secrecy) 규칙은 교환된 키를 파생하는데 사용된 개인키를 삭제한다는 직접 믿음과 간접 믿음을 통해 이루어지며, 이를 통해 순방향 비밀성이 만족되는지 검증할 수 있다. 또한 검증 결과의 신뢰성을 높이기 위해 모델체킹 기법 중 가장 대표적으로 사용되는 ProVerif를 활용하여 검증한다. 두 가지 정형화 검증 도구를 통해 검증한 결과 5G-AKA-FS 프로토콜이 순방향 비밀성을 지원하고 연결성 공격으로부터 안전하다는 것을 보인다.
제안 프로토콜의 객관적 평가를 위해 순방향 비밀성 지원 외 5가지 보안 요구사항을 비교 분석하며, 연산 및 통신 오버헤드를 측정한다. 보안 요구사항 비교 결과, 제안 프로토콜이 5G-AKA'을 포함한 5가지 프로토콜에 비해 순방향 비밀성 지원, 연결성 공격 대응, 이전 세대와의 호환성 등을 만족하여 향상된 보안성을 지원한다는 것을 보였다. 하지만 성능 측정 결과, 제안 프로토콜은 기존 표준 프로토콜 대비 연산 오버헤드가 약 3ms 더 발생했으며 통신 오버헤드는 약 384bits가 더 요구된다. 이러한 추가 오버헤드는 보안과 성능 사이에 발생하는 트레이드 오프 상황이며, 본 논문에서 제안하는 프로토콜이 기존 프로토콜들과 비교할 때 성능 대비 보안성 측면에서 가장 우수함을 실험을 통하여 입증할 수 있었다.