공공뉴스=김소영 기자 인공지능(AI)을 기반으로 얼굴이나 이미지를 합성한 ‘딥페이크(Deepfake)’ 기술이 활성화되면서 곳곳에서 적용하는 사례가 늘고 있는 가운데, 그러나 선거철 허위 정보와 가짜뉴스 등이 확산될 수 있어 주의가 요구되고 있다.
올해 4월 제22대 국회의원 선거를 치르는 한국을 비롯해 세계 주요 국가들이 중요한 선거를 앞두고 딥페이크와의 전쟁에 나선 모습이다.
◆선거철 AI 기술과의 전쟁
딥페이크는 AI 기술 중 하나로, 딥러닝(Deep Learning)과 페이크(Fake)의 합성어. 기존에 있던 인물의 얼굴이나 특정 부위를 영화 CG처럼 합성한 영상편집물이다.
최근 들어 딥페이크에 대한 관심이 높아지고 그 활용 범위도 확대된 상황. 그러나 혁신적인 기술의 발전이 오히려 범죄로 악용되고 있어 사회적 문제로 떠오른 상태다.
특히 한국 총선과 미국 대선 등 전 세계 47개국에서는 올해 선거가 치러지는 만큼 각국에서는 딥페이크 영상에 예의주시하고 있다. 가짜뉴스가 자칫 공정한 선거판을 흔들 수도 있는 까닭.
이 같은 분위기 속 한국에서는 오는 4월10일 치러지는 총선을 앞두고 딥페이크 영상 선거운동이 전면 금지됐다. 딥페이크 영상 악용 사례가 심각해지자 국내에서도 선거에 미칠 영향을 고려해 처벌 규정을 도입했다.
12일 중앙선거관리위원회에 따르면, 지난달 29일부터 딥페이크 영상 등을 이용한 선거운동 단속에 나섰다.
공직선거법 개정안 의결로 사회 각계의 우려가 큰 딥페이크 영상 등 이용 선거운동이 선거일 전 90일부터 선거일까지 전면 금지된 데 따른 것.
개정안은 누구든지 선거일 전 90일부터는 선거운동을 위해 AI 기술 등으로 만든 실제와 구분하기 어려운 가상의 음향, 이미지 또는 영상 등을 제작·편집·유포·상영·게시할 수 없다고 규정했다.
이를 어길 경우 7년 이하 징역 또는 1000만원 이상 5000만원 이하 벌금에 처한다.
선거일로부터 90일 전이 아닌 때에는, 선거운동을 위한 딥페이크 영상 등을 제작·편집·유포·상영 또는 게시하는 경우 해당 영상이 AI 기술 등을 이용해 만든 가상의 정보라는 것을 명확하게 인식할 수 있도록 이 사실을 표기해야 한다.
또한 중앙선관위는 기술적 한계를 보완하기 위해 시각적 탐지, 범용 프로그램 활용, AI 자문위원 감별 등 3단계 감별을 통해 신뢰도를 높이기로 했다. 현재 60명에 달하는 검증요원과 전문가들이 활동 중이다.
중앙선관위는 기술의 발달로 실제와 구분하기 어려운 가상의 영상을 누구나 쉽게 만들 수 있는 상황이 된 만큼, 유권자들도 선거공보나 후보자토론회 등 공식 선거운동방법과 신뢰성 있는 언론매체 등을 통해 종합적으로 후보자의 자질과 공약을 따져 볼 것을 당부했다.
◆전 세계적 골머리 ‘딥페이크’
현재 대선 레이스가 한창인 미국에서도 딥페이크는 골칫거리로 지적되고 있다.
조 바이든 미국 대통령과 도널드 트럼프 전 미국 대통령을 중심으로 표가 집결하는 가운데 최근 미국 뉴햄프셔 프라이머리(예비경선)를 앞두고 민주당 당원에게 투표 거부를 독려하는 바이든 대통령의 가짜 목소리를 담은 전화가 돌아 논란이 됐다.
지난달 22일 뉴햄프셔주 민주당 유권자들은 수화기 너머로 ‘경선 투표에 참여하지 말라’는 바이든 대통령의 음성을 들었다.
또한 지난해 초에는 트럼프 전 대통령이 경찰에 체포되는 사진이 온라인상에서 퍼지기도 했다.
이들 모두 AI 기술을 악용한 사례. AI로 생성된 ‘로보콜’ 즉 바이든 대통령을 사칭하는 조작된 음성과 AI 이미지 생성 프로그램 ‘미드저니’가 만든 트럼프 전 대통령의 이미지였다.
뿐만 아니라 지난해 6월에는 트럼프 전 대통령이 앤서니 파우치 전 국립 알레르기·전염병 연구소장을 끌어안는 모습이 담긴 이미지가 공개되기도 했다.
미국 정부의 코로나19 대응을 이끈 파우치 전 소장은 공화당 지지층에게 공적이나 다름없는 인물로, 트럼프 전 대통령의 공화당 경쟁자인 론 디샌티스가 AI 생성 이미지를 광고에 사용했다.
지난해 5월 치러진 튀르키예 대통령 선거에서도 딥페이크 영상이 만들어져 선거를 좌지우지 하는 상황이 펼쳐졌다.
대선 당시 레제프 타이이프 에르도안 튀르키예 대통령은 터키 분리주의 단체 PKK가 상대 후보인 클루츠다로을루 후보를 지지하는 노래를 부르는 영상을 뿌려 지지자들을 자극했다.
AI가 만든 조작된 영상이었지만, 선거 결과는 에르도안 대통령의 승리였다.
선거 뿐만 아니라 우크라이나·러시아 전쟁 중 우크라이나 대통령이 항복을 선언하는 딥페이크 영상이 제작·유포돼 국제 정세에 큰 혼란을 끼치기도 했다.
◆유권자 혼란 행위 규제 목소리
이처럼 딥페이크 기반의 조작된 영상과 이미지는 많은 사람들에게 혼란을 야기시키고 있다.
단기간 승부를 내야 하는 선거판에서 특히나 딥페이크의 위력은 더 커진 모습.
이에 따라 네이버는 지난 1일부터 AI 댓글과 딥페이크 등 신규 어뷰징 패턴을 지속적으로 분석하고 업데이트 하는 등 감시를 강화했다.
생성형 AI의 본격적인 활용에 따라 뉴스 이용자의 혼란을 방지하기 위해 AI와 로봇이 자동으로 작성한 기사를 명확히 안내하는 차원에서다.
생성형 AI를 활용해 작성된 기사에 대해 본문 상단에 관련 내용을 공지하고, 언론사가 자동 로직으로 생성·전송한 기사 본문 상단과 하단에는 ‘이 기사는 해당 언론사의 자동 생성 알고리즘을 통해 작성됐습니다’라는 문구가 노출된다.
뿐만 아니라 네이버는 뉴스 댓글 집중 모니터링 기간 동안 보안팀 내 전담 담당자를 확대하는 등 24시간 모니터링을 강화하고 각 부서 핫라인을 구축해 이슈 발생시 빠른 대응을 할 수 있도록 했다.
또한 문장 맥락을 파악해 혐오, 비하, 차별표현까지 걸러내는 클린봇과 더불어 매크로 사용 여부를 심층적으로 감지하고 분석한다.
네이버 관계자는 “선거 관련 허위 정보 유포와 조직적 매크로, 어뷰징을 막기 위해 최선을 다하고 대내외의 의견을 경청하겠다”며 “선거 관련 공정하고 정확한 정보를 제공하기 위해 내달 중 선거 관련 특집 페이지도 선보이겠다”고 말했다.
아울러 경찰청 국가수사본부도 총선에 대비해 이달 7일부터 전국 278개 경찰관서에 ‘선거사범 수사상황실’을 설치해 운영 중이다.
윤희근 경찰청장은 “민주주의에 대한 심각한 위협인 선거폭력은 물론이고 딥페이크 영상, 선관위·정당을 상대로 한 사이버테러 등 새로운 위협요인에 대해서도 경찰의 모든 수사역량을 동원해 신속하고 엄정하게 조치하겠다”고 강조했다.
기술의 발달로 우리의 일상 생활과 업무에서 IT의 비중은 날로 커지고 있다. 그리고 첨단 IT 기술은 인간의 삶을 윤택하게 만들어주고 있다.
그러나 풍요로운 삶에 대한 욕심과 욕구가 점차 늘어나며 부작용도 나타나고 있다.
딥페이크 역시 흥미를 돋우는 유용한 기술이지만, 악용되는 사례가 넘쳐나면서 그 장점은 묻히고 있다. 기술 발전의 순기능보다 역기능이 주목되고, 이로 인한 피해가 잇따르는 상황에서 규제 강화가 필요하다는 목소리는 날로 커지고 있다.
특히 총선을 앞두고 유권자 인식을 왜곡할 위험이 있는 첨단 기술은 더욱 경계할 수밖에 없다. 국민 목소리를 대변하고 나라가 나아가는 방향을 설정해야 하는 정치인을 뽑는 중대한 이벤트이기 때문.
허위 정보를 동원하는 네거티브 선거가 아닌, 정정당당한 정책 경선을 통해 유권자들의 표심을 얻어야 한다는 지적이다.