AI 기술로 짜깁기된 윤석열 전 대통령의 딥페이크 영상. 틱톡 캡처


내년 6월 지방선거를 앞두고 인공지능(AI) 기술을 활용한 딥페이크 등이 정치 공세와 가짜뉴스 유포에 악용될 수 있단 우려가 정치권 안팎에서 제기되고 있다. 딥페이크를 완벽하게 차단할 방안이 마련되지 않은 상황에서 내년 선거의 최대 위협 요인으로 떠오른 것이다. 정치권이 모니터링 체계를 마련해 대응 중인 것으로 알려졌으나 실효성은 미지수다.
최근 국내에 진출한 이스라엘의 사이버 보안업체 ‘사이브라’(Cyabra) 관계자는 백경게임 26일 “가짜 콘텐츠는 선거, 경제, 사회 이슈 전반에서 위험성을 키운다”며 “최근에는 대량의 가짜 계정, 조작된 댓글 네트워크 등을 활용해 여론을 설계하는 시도까지 포착되고 있다”고 경고했다. 사이브라는 마이크 폼페이오 전 미국 국무장관이 이사로 참여한 사이버 탐지 프로그램으로, AI를 이용해 가짜 계정, 딥페이크 등을 실시간으로 찾아낸다.
야마토게임




딥페이크에 무방비한 정치권

앞서 정부는 지난해 1월 29일부터 AI 기반 딥페이크를 활용한 선거운동을 전면 금지했다. 그러나 이를 활용한 정치 콘텐츠는 계속해 등장하고 있다. 악용 피해도 점차 커지는 실 사이다쿨 정이다. 지난 4월 당시 이재명 더불어민주당 대선 예비후보 선거대책위원회는 딥페이크 영상 유포자와 허위사실 유표자 등 17명(9건)에 대한 법적 대응에 나선 바 있다.

지난해 2월 페이스북과 틱톡 등 SNS에는 ‘가상으로 꾸며본 윤석열 대통령 양심 고백 연설’이라는 영상이 떠돌기도 했다. 46초 분량 영상에는 윤 전 대 쿨사이다릴게임 통령이 등장해 “무능하고 부패한 윤석열정부는 특권과 반칙, 부정과 부패를 일삼았다. 저 윤석열은 상식에서 벗어난 이념에 매달려 대한민국을 망치고 국민을 고통에 빠뜨렸다”고 발언하는 모습이 담겼다. 2022년 2월 윤 전 대통령이 대선후보였던 당시 TV 연설 장면을 짜깁기한 것이었다.
지난 8월에는 딥페이크 합성 이미지를 이용해 광역·기초의 바다이야기#릴게임 회 소속 남성 의원들을 대상으로 협박 메일을 보낸 사건을 수사하던 경찰이 끝내 피의자를 특정하지 못한 사건도 있었다. 피해 의원들은 대부분 20~40대 남성으로 이들은 “당신의 범죄 증거들을 가지고 있다”는 내용의 협박 메일을 받은 것으로 알려졌다. 메일에는 얼굴이 합성된 나체 사진이 첨부돼 있었다. 범인은 딥페이크 파일을 없애는 조건으로 약 5만 달러(약 6950만원) 상당의 암호화폐를 요구하며 QR코드 접속을 유도했다.
사이브라 관계자는 “AI 기술이 발달하면서 딥페이크를 이용한 허위사실 유포가 매해 늘고 있는 실정”이라며 “내년 6월 선거가 다가오는 만큼 각계의 주의가 필요하다”고 당부했다. 이어 “클릭 수를 노린 자극적 제목과 알고리즘 기반 확산 구조를 결합해 정통 언론 기사보다 2~3배 빠르게 퍼지는 경우가 많다”고 설명했다.


우려는 큰데 제도는 지지부진…대안은

국민 10명 중 9명은 딥페이크 범죄가 사회를 위협하고 있다고 봤다. 여론조사 전문기관 리얼미터가 지난 4일~5일 전국 만 18세 이상을 대상으로 자동응답조사 방식으로 진행한 설문조사에 따르면 응답자 10명 중 9명(90.2%)은 딥페이크 범죄가 사회에 미치는 위협이 심각하다고 답했다.

특히 국민 10명 중 8명 이상(85.3%)이 선거에서 딥페이크 범죄가 후보자의 당락에 영향을 미칠 것이라 응답해 내년 지방선거를 앞두고 사회적 대응의 필요성이 더욱 커지고 있다는 지적이 나온다.



현재까지 딥페이크를 완벽하게 차단할 방안은 마련되지 않은 상황이다. AI로 만든 영상·이미지에 특정 표식을 붙이는 방식이 전부지만 이마저도 명확한 기준은 없다. 더욱이 특정 표식은 기술적으로 쉽게 지울 수 있고 기업마다 유형, 부착 방식, 적용 기술 모두 다르다.
한 AI 업계 관계자는 “유일한 대안으로 알려진 딥페이크 콘텐츠에 특정 표식을 붙이는 방식은 한계가 뚜렷하다”며 “최근 해외에서 딥페이크를 잡아내는 사이브라 프로그램이 국내로 들어온 만큼 이를 활용한다면 기술적으로 도움이 될 것”이라고 말했다.
사이브라는 가짜 이용자 행세를 하는 로봇 소프트웨어를 찾아내는 일에 강점을 갖고 있다. 국내 진출에 앞서 지난 대선 기간 로봇 소프트웨어와 허위 정보가 여론에 미치는 영향을 분석한 ‘2025년 대통령선거 온라인 담론 분석 리포트’를 발간해 주목을 받았다.
또 다른 업계 관계자는 “사이브라를 활용한다면 딥페이크 영상·이미지 탐지, 가짜 계정 분석, 조작된 네트워크 추적을 통해 어떤 뉴스가 인위적인 확산을 통해 증폭되고 있는지를 실시간으로 보여줄 수 있다”며 “기사 내용 검증을 넘어 유통 경로의 진정성까지 분석하는 방식”이라고 설명했다.
박민지 기자 pmj@kmib.co.kr
GoodNews paper ⓒ 국민일보(www.kmib.co.kr), 무단전재 및 수집, 재배포 및 AI학습 이용 금지