6·3대선 ‘딥페이크’ 몸살

선관위에 769건 삭제 요청 접수
작년 국회의원 선거의 두배 수준
유권자 혼란 우려… 18명 수사 중
李 대행 “중대한 범죄” 단속 지시

21대 대통령 선거 공식 선거운동이 시작된 가운데 “대한민국을 중국 속국으로 만들겠다”, “신전체주의를 시작하겠다” 등 조작된 내용을 후보 얼굴에 입혀 공격하는 방식의 딥페이크(허위 사진·영상·음성 편집기술)가 소셜미디어(SNS)와 온라인 커뮤니티에 넘쳐나고 있다. 현재까지는 조악한 영상이 대부분이지만, 그럴듯한 딥페이크가 ‘가짜뉴스’에 활용될 경우 유권자 혼란이 커질 것으로 우려된다.

이날 서울신문 취재를 종합하면, 중앙선거관리위원회(선관위)가 대선과 관련해 한국인터넷자율정책기구(KISO) 등에 삭제를 요청한 딥페이크 영상물은 지난달 4일부터 지난 11일까지 한 달여간 총 769건으로 집계됐다. 지난 8일까지 598건이었는데 사흘 만에 171건이 늘었다.

지난해 총선 기간(1월 29일~4월 10일) 선관위가 삭제 요청한 딥페이크 영상물이 388건이라는 점을 감안하면 얼마 안된 시점에 이미 삭제 요청 건수가 2배에 육박한 것이다.

지난해 공직선거법 개정으로 선거 90일 전부터 딥페이크 영상물로 선거 운동을 할 경우 5년 이하 징역 또는 5000만원 이하 벌금형을 받게 된다. 후보자 비방뿐만 아니라 지지를 받은 것처럼 조작하거나 일정 등을 홍보하기 위해 ‘딥보이스’(인공지능으로 합성된 음성)를 쓰는 행위도 금지된다.

법 개정 이후 22대 총선이 치러졌지만 공직선거법을 적용해 선관위가 수사를 의뢰하거나 경찰이 검찰에 송치한 사례는 단 한 건도 없었다. 처벌 요건이 까다로워서다. 인공지능(AI)으로 만들었더라도 실제와 구분할 수 있거나 ‘선거 운동을 위해 만들었다’는 목적성이 입증되지 않은 단순 풍자 등은 공직선거법을 적용하기 어렵다.

양홍석 법무법인 이공 변호사는 “영상이나 음향이 실제 인물과 유사하더라도 ‘허위’라는 걸 인식할 수 있다면 처벌이 어려울 수 있다”고 말했다.

이번 대선에선 동영상 생성 AI ‘소라’(Sora) 등 생성형 AI 기술이 대중화돼 딥페이크 영상물이 늘어나고 있는 만큼 형사처벌 사례가 나올 가능성도 있다.

선관위 삭제 요청을 받아 관련 영상을 삭제 조치하는 KISO의 한 관계자는 “기술에 익숙하지 않은 고령층일수록 가짜인지 알기 어렵고, 딥보이스는 누가 들어도 구분하기 어려워 문제”라고 설명했다.

이와 관련해 경찰은 대선 관련 딥페이크 영상물 8건(18명)을 수사 중이라고 이날 밝혔다. 이재명 더불어민주당 대선 후보가 부인인 김혜경 여사에게 험악한 호칭을 쓰며 나무라는 딥페이크 영상 등이 유포되자 민주당은 경찰에 고발장을 접수하기도 했다.

이주호 대통령 권한대행 부총리 겸 교육부 장관은 이날 “불법 딥페이크 영상 등은 선거의 정당성을 흔들 수 있는 중대한 범죄”라며 법무부와 경찰청에 사전 예방과 엄정 단속을 지시했다. 선관위 관계자는 “악의적인 딥페이크가 발견되면 고발 등 엄중히 조치할 예정”이라고 밝혔다.