보이스피싱도 AI가!…인공지능 범죄시대 온다

클립아트코리아 이미지

미래 범죄는 인공지능(AI) 기술을 이용해 더욱 교묘하고 치밀해지는 범죄로 고도화 될 것이라는 다소 비관적인 보고서가 나왔다. 인류의 삶을 질적으로 향상시켜준다는 점에서 AI는 각광받고 있지만 이에 따른 부작용도 함께 있다는 것을 암시해준다.

4일 유니버시티 칼리지 런던(UCL) 소속 연구진은 앞으로 15년 동안 AI 관련 범죄 중에서 가짜 오디오(fake audio), 가짜 비디오(fake video)가 잠재적으로 가장 심각한 문제를 일으킬 것이라는 진단을 담은 보고서를 학술지 '크라임 사이언스'(Crime Science)에 발표했다.

연구진은 이 보고서에서 딥페이크 같은 AI 기술을 이용해 만든 가짜 콘텐트는 실제와 구분이 어렵고 피해 방안 마련도 힘들며, 다양하게 악용될 여지가 있다고 지적했다. 딥페이크는 기존에 있던 인물 얼굴, 특정 부위를 합성한 영상편집물을 말한다.

연구진은 정치인 등 공인을 합성한 영상뿐만 아니라 보이스피싱 등 다양한 방식으로 이 기술이 악용될 수 있다고 우려했다. 직접적 피해뿐만 아니라 사회 전반의 불신 현상이 팽배해져 사회적 비용을 치러야 할 수도 있다는 것이다. 합성하기 위해 필요한 기존 영상 및 음성이 유명인이 아니더라도 SNS 발달로 개인도 구하기 쉬워지고 있다.

시장에서 범죄 기술이 서비스업화될 수 있다는 지적도 나왔다. 제1저자인 매슈 콜드웰 UCL 컴퓨터과학과 박사는 "온라인 활동이 사람들의 삶의 많은 부분을 차지하고 데이터가 중요해지는 환경에서 AI 기반 범죄가 늘어나기 쉽다"며 "전통적인 범죄와는 달리 디지털 영역의 범죄는 쉽게 공유·반복·판매 할 수 있어 기술 거래 시장이 생기고 일종의 서비스업화될 수 있다"고 경고했다.