[야고부] 참 나쁜 AI(인공지능)?!

석민 디지털논설실장

챗GPT 출현 1년 만에 AI(인공지능) 기술이 급격하게 발전하면서 AI는 인간이 가진 감정과 편견에서 벗어나 객관적이고 공정한 결과를 가져올 것이라는 환상 같은 믿음이 있었던 것 같다. 아마존이 '공정한' 채용을 위해 AI를 활용했더니, 여성에게 낮은 점수를 주거나 배제시키는 만행(?)을 저질렀다. 통계적으로 남성이 승진하거나 임원이 되는 경우가 많았기 때문이다. 대표적 이미지 생성 AI인 '스테이블 디퓨전'은 '패스트푸드 직원'이라는 키워드 명령에 70% 이상을 피부색이 어두운 인물로 묘사했다. 인종차별적인 결과를 내놓은 셈이다. 실제 미국 패스트푸드 직원의 70%는 백인이다.

미국 민간 AI 연구기관 집계에 따르면 올해 들어 지난달까지 가짜 뉴스 생성·여론 조작 등 AI 남용으로 인한 피해는 지난해 같은 기간보다 36%나 증가했다. 인간이 하는 '나쁜 짓이란 나쁜 짓'은 모두 AI가 따라 하는 것이다. 현재 AI 기술은 방대한 데이터를 원료로 이용해 딥러닝(심층 학습) 모델에 계속 학습시키는 방식으로 지능을 갖게 한다. 알고리즘을 이용해 데이터 안에서 패턴을 찾아내고 사람들의 질문에 최적화된 답을 제시해 주는 것이다.

알고리즘과 데이터는 모두 사람이 만들었기 때문에 그들의 의도를 완전히 배제할 수 없다. 편향성을 최소화하기 위해 정제된 데이터를 사용하고 오류 수정팀을 운영하더라도 '사람의 문제'를 근본적으로 해결할 수는 없다. 특히 현재의 AI 개발 방식인 딥러닝은 개발자조차 원리를 완벽하게 설명할 수 없는 '블랙박스'이다. AI 답변이 학습된 데이터 중 어디에서 나왔는지 역추적이 불가능하다는 의미이다. 이 때문에 AI가 반역을 일으켜 인간을 공격하거나 인간을 노예로 삼는 영화 같은 일이 현실이 될 가능성은 실재한다. '프런티어 AI'로 불리는 미래 AI는 스스로 추론까지 할 수 있다.

이달 1~2일 한국을 비롯한 주요 28개국과 유럽연합(EU)이 참석한 'AI 안전 서밋(정상회의)'에서 테슬라 최고경영자 일론 머스크는 "AI는 소원을 들어주는 램프의 요정 지니 같다. 하지만 그런 동화가 좋게 끝나는 경우는 거의 없다.…AI 휴머노이드(인간형 로봇)의 소프트웨어 업데이트를 받았는데 (휴머노이드가) 더 이상 친절하지 않으면 어떻게 될지 생각해 보라"고 했다.