[데스크칼럼] 2024년은 딥페이크 선거의 해가 될까

최병고 서울 취재본부장

"안녕하세요? AI 윤석열입니다. 윤석열 후보와 너무 닮아 놀라셨습니까."

지난 대선 때 윤석열 대통령 AI가 TV에 등장한 장면을 기억하시는지. 윤 대통령 본인과 분간하기 힘든 얼굴과 목소리에 깜짝 놀랐다는 반응이 많았다. 당시 이재명 후보 측에선 '아바타 뒤에 숨었다'고 깎아내리기도 했지만, '딥페이크'(deepfake) 기술이 국내 선거 캠페인에 본격적으로 등장한 첫 사례라는 점에서 인상적이었다. 하지만, 내년 22대 총선부터는 '○○○ AI 후보입니다!'는 모습을 더 이상 보기 어려울 것 같다. 딥페이크를 활용한 캠페인을 금지하는 선거법 개정안이 지난 5일 국회 정치개혁특별위원회 법안소위를 통과하면서 급물살을 타고 있어서다.

딥페이크란 방대한 데이터를 바탕으로 스스로 학습하는 인공지능(AI) 기술인 '딥러닝'(deep-learning)과 가짜·조작 등을 뜻하는 '페이크'(fake)를 합친 말이다. 인물의 실제 영상이나 음성, 사진 등을 편집 또는 합성해 진위를 가리기 어려운 콘텐츠를 말한다. 최근에는 AI 기술의 급속한 발전과 함께 더 빠르고, 간단하면서도, 완성도 높은 딥페이크 창작물이 가능해지고 있다. 이에 딥페이크 기술이 선거에 악용돼 상대 후보를 음해하거나, 유권자들에게 혼동을 줄 수 있다는 우려가 커지고 있다.

이번 딥페이크 금지법안을 살펴보면 누구든지 선거일 전 90일부터 선거일까지 선거운동을 위해 딥페이크 영상 등을 제작·편집·유포·상영 또는 게시할 수 없도록 금지하는 게 주요 내용이다. 총선이 내년 4월 10일에 치러지므로 내년 1월 11일부터 총선일까지는 딥페이크를 활용한 선거운동을 할 수 없다. 후보자의 얼굴뿐 아니라 제3자의 얼굴을 활용한 선거운동도 할 수 없다.이를 위반하면 7년 이하 징역 또는 1천만원 이상 5천만원 이하 벌금에 처한다.

개정안은 또 선거일보다 90일이 넘게 남았더라도 딥페이크 영상을 만들어 올릴 때는 가상의 정보라는 것을 명확히 알 수 있게 표시하도록 했다. 표시 의무를 어기면 1천만원 이하 과태료를 부과하고, 가상의 정보임을 표시하지 않은 채 특정 후보자의 당선과 낙선을 목적으로 허위 사실까지 유포할 경우 가중 처벌될 수 있다. 이번 개정안은 여야 합의로 추진되는 만큼 국회 본회의 통과도 무난하리란 전망이다.

미국에선 내년 대통령 선거를 앞두고 딥페이크 기술이 선거에 미칠 수 있는 영향을 우려하는 분위기다. 조 바이든 대통령이 성소수자를 혐오하는 연설을 하는 가짜 동영상이나, 도널드 트럼프 전 대통령을 비난하는 버락 오바마 전 대통령의 가짜 동영상이 급속도로 퍼진 일이 경각심을 일깨우는 계기가 됐다. AI 전문가들 사이에선 "2024년은 딥페이크 선거의 해가 될 것"이라는 전망까지 나온다고 한다. 미국 연방선거관리위원회는 대통령 선거를 앞두고 AI가 만든 딥페이크 이미지가 널리 퍼질 것으로 보고, 규제 검토에 착수한 상태다.

이번에 정개특위를 통과한 선거법 개정안 역시 미국 캘리포니아주는 60일 전, 텍사스주는 30일 전부터 딥페이크 기술 활용을 전면 금지하도록 한 사례 등을 참고했다고 한다. 유럽연합이나 프랑스, 독일 등도 이미 앞다퉈 딥페이크 기술 규제에 나서고 있다.

딥페이크를 보면서 과학기술의 명암을 생각한다. 개정안 논의 중에 선거 목적의 딥페이크를 어떻게 규정할 것인지 등에 대한 토론도 있었다고 한다. 민주주의 꽃인 선거제도에 딥페이크 기술이 악용되지 않도록 세심한 손질이 있기를 바란다.