최근 인공지능 기술을 활용한 콘텐츠가 널리 확산되고 있다. 인공지능 기술은 기술 발전을 거듭하며 더욱 정교하게 만들어지고 있어 앞으로 실생활과 여러 산업 분야에 걸쳐 다양하게 이용될 것으로 전망된다.
비록 얼마 전까지만 해도 우리는 인공지능 기술이 가져올 혁신에 많은 기대를 했었다. 하지만 현재는 인공지능 기술로 인한 ‘사회적 혼란’, ‘권리침해’, ‘위험성’ 등과 같은 부정적인 키워드가 논의의 중심에 있다. 이러한 인공지능 기술에 대한 논의의 불을 붙인 것이 미국에서 발생한 ‘펜타곤 폭발 사진’과 같은 허위정보의 유포이다. 그리고 여러 국가들은 그 심각성을 인식하며 서둘러 문제 해결 방안을 고민하고 있다. 문제의 중심에는 인공지능 기술을 활용하여 실제로 존재하지 않은 사실을 거짓으로 지어내거나, 마치 인간이 만들어낸 저작물과 혼재되고 별다른 구별 없이 유통 및 게시되고 이용되는 경우를 들 수 있다.
앞으로 기술의 진보는 거듭되어 결국 인공지능 콘텐츠와 실제의 사실 및 인간이 창작한 저작물 등이 혼재되어 특수한 기술의 발명 없이는 서로 구별이 어려운 시점이 도래할 것이다. 만약 인공지능 기술의 사용 여부 및 결과물에 대한 구분 기준이나 안내 표시가 마련되지 않는다면, 인공지능 콘텐츠와 그 외의 정보 및 콘텐츠 간의 구분은 불가능해질 것이다. 그렇게 된다면 각종 허위 정보의 범람 문제뿐만 아니라 그동안 인간이 긴 시간과 노력을 들여 해왔던 콘텐츠 제작 활동 역시 위축되어 사라지게 될 것이다.
우리나라에서는 이러한 문제에 대응하기 위하여 인공지능법의 제정을 추진하고 있다. 인공지능법은 인공지능 기술의 육성과 발전을 위한 제도적 근거를 마련함과 동시에 인공지능 서비스 제공자에 대한 이용자 보호 의무 등을 규정한다. 그러나 법제도의 마련과 실제 규제의 적용까지는 상당한 시간이 소요된다는 문제가 있다. 따라서 이미 현재 진행형인 허위 정보의 혼동, 이용자 보호 문제, 저작물과의 오인 문제 등을 예방하기 위해 워터마크 등 식별조치에 대한 논의가 필요한 시점이다. 예를 들어 인공지능이 만들어낸 콘텐츠에 ‘인공지능 기술이 적용된 콘텐츠’ 또는 ‘ai-generated’와 같은 식별 표시를 해줌으로써 여타 콘텐츠들과 혼재하게 되는 상황을 예방할 수 있다.
인공지능 기술을 활용한 콘텐츠를 알기 쉽게 표시하는 기준을 마련한다면 인간이 창작한 저작물 등과의 차별성이 유지되어 각각의 콘텐츠가 지니는 가치를 훼손하지 않게 될 것이다. 또한 이용자 보호와 이용 편리성에도 도움이 될 것으로 보인다.