총선을 앞두고 딥페이크를 활용한 여론조작 우려가 높아지는 가운데, 경찰이 딥페이크 진위 여부를 가리는 자체 소프트웨어를 개발해 단속에 나섰다.

경찰청 국가수사본부는 '딥페이크(Deepfake) 탐지 소프트웨어'를 개발했다고 5일 밝혔다.

딥페이크 의심 영상을 이 소프트웨어에 올리면 5~10분 이내에 분석을 완료해 진위를 판별한다. 판별 결과는 즉시 보고서로 제공해 수사에 곧바로 활용할 수도 있다.

기존 딥페이크 탐지 모델은 한국인 합성 영상에 대한 탐지율이 떨어지는 한계가 있었다. 대부분 모델이 해외에서 제작돼 북미·유럽계 데이터 위주로 구성됐기 때문이다. 이러한 한계를 극복하고자 한국인 데이터 100만점 및 아시아 계열 인종 데이터 13만점 포함한 인물 5400명의 데이터 520만 점에 대한 데이터 학습이 이뤄졌다.

나아가 기존 학습 데이터에 없는 새로운 합성 영상에도 대응할 수 있도록 최신 인공지능 모델을 적용했다.

다만 해당 소프트웨어의 진위 탐지율은 약 80%다. 경찰은 탐지율이 100%가 아닌 점을 고려해 증거자료보다는 수사 방향 설정 자료로 활용하기로 했다.

딥페이크 영상 선거범죄에 대해서는 학계·기업 등 AI 전문가로 구성된 민간 자문위원의 교차 검증받아 소프트웨어의 오탐지 가능성을 최소화할 계획이다.

경찰청 관계자는 "딥페이크 이용 여부가 의심될 때 빠른 분석과 결과 확인을 거쳐 적극 수사할 수 있을 것"이라며 "향후 더욱 정확한 탐지가 이뤄지도록 소프트웨어를 고도화하고 선거범죄, 합성 성착취물 범죄 외에도 딥페이크를 이용한 다양한 범죄에 능동적으로 대처해 나가겠다"고 말했다.

/오인애 기자