[매일칼럼] 인공지능 판도라의 상자

김해용 논설주간

chatGPT는 똑똑하고 성실하지만 황당한 답변도 내놓는다. 지난 4월 "성추행 전력이 있는 법률학자 명단을 찾아 달라"는 미국의 한 법대 교수 요구에 chatGPT는 특정 교수 실명을 거론하며 "알래스카 수학여행 중 여학생에게 성희롱을 했다"는 기사 링크를 제시했다. 하지만 이는 사실이 아니고 해당 기사는 존재하지도 않았다. 졸지에 성희롱범으로 지목된 당사자는 "언론도 아닌 챗봇이 헛소리를 했으니 호소할 곳도 없다"며 하소연했다고 한다.

생성형 인공지능이 만들어낸 가짜 뉴스들이 확산되고 있다. 지난 22일 미국 펜타곤 폭발 사고 사진도 인공지능이 만든 가짜 뉴스였다. 지난 3월 경찰의 트럼프 전 미국 대통령 강제 연행 사진, 지난 4월 패딩 입은 프란치스코 교황 사진 등 모두 인공지능이 만들어낸 페이크(fake) 이미지였다.

이달 초 국제엠네스티는 경찰의 인권침해 보고서에 한 여성이 경찰에 연행되는 합성 사진을 올렸다가 자진 삭제했다. 지난달 영국 데일리 메일은 "BTS 멤버 지민을 닮고 싶어 한 캐나다 배우가 성형수술을 여러 번 받다가 합병증으로 사망했다"고 보도했다가 합성 사진 논란이 일자 기사를 내렸다.

인공지능이 만든 가짜 뉴스와 합성 콘텐츠들은 너무나 정교해 식별하기가 어렵다. 고품질 동영상 합성이나 컴퓨터 그래픽 제작을 위해 슈퍼컴퓨터 수준의 장비와 노하우가 필요한 것은 이제 옛말이 됐다. 시중의 인공지능 서비스들을 활용하면 카메라와 조명, 녹음 장비도 없이 진짜 같은 가짜 콘텐츠를 얼마든지 만들 수 있다.

인공지능은 인쇄 혁명에 버금가는 혁신적 기술로 꼽힌다. 하지만 양날의 칼과 같다. 인류의 삶을 획기적으로 개선하는 게임 체인저일 수 있지만 그에 따른 부작용과 위협도 간과할 수 없다.

인공지능이 가져올 위협은 현실적이다. 인공지능을 이용해 특정인 목소리를 거의 비슷하게 만들어낼 수 있다. 이는 보이스 피싱 범죄에 악용될 수 있으며 실제로 미국 텍사스에서 유사 사례가 있다. 특정인의 동영상 데이터를 어느 정도 갖고 있으면 페이크 동영상을 만들 수 있다. 나쁜 의도로 만들어진 가짜 동영상과 가짜 녹취 파일이 선거판을 뒤흔들 수도 있다. 이는 민주주의에 대한 중대한 위협이다.

생성형 인공지능은 참과 거짓을 구분하지 않는다. 인간이 요구한 질문과 작업 요청에 대해 가장 근사한 값의 대답과 결과를 출력할 뿐이다. 게다가 스스로 학습해 더 똑똑해지고 있다. 인간은 인공지능이 스스로 코딩을 바꾸는 것을 실시간으로 파악할 수 없다고 한다. 인공지능이 인간을 뛰어넘는 순간을 인류는 알아차리지 못할 것이라는 전문가 전망은 섬뜩하기까지 하다.

또한, 인공지능이 학습한 데이터에는 인류가 그동안 쌓은 혐오와 편견, 허위와 위선도 함께 들어 있다. 일론 머스크(테슬라 CEO)는 "인공지능이 인류를 절멸시키거나 인류 성장을 제약할 위험이 있다"고 진단했다. chatGPT 창시자인 샘 알트만도 "인공지능의 잠재적 위험을 통제하고 부작용을 막기 위한 국제기구가 필요하다"는 의견을 냈다.

박태웅 한빛미디어 이사회 의장은 생성형 인공지능의 등장과 관련해 "판도라의 상자가 열렸는데 닫을 방법이 있겠는가?"라는 화두를 던졌다. 인공지능이 지킬이 될지, 하이드가 될지는 예단키 어렵다. 단지, 인류의 집단지성과 이성이 제대로 발휘돼 '인공지능 하이드'의 출현을 막을 수 있기를 기대할 뿐이다.