챗GPT·빙 챗봇·바드, 신뢰해도 될까…"사용자 질문 의도에 따라 왜곡 가능"

이재명 체포동의안에 대해서도 원론적인 답변
이해할 수 없는 결과물, 허위주장도 만들 수 있어

27일 오후 서울 중구 달개비에서 뇌과학자 김대식 카이스트 교수가 질문하고 챗 GPT가 대답한 '챗GPT에게 묻는 인류의 미래' 출간 기자간담회가 열리고 있다. 사진은 이날 간담회에서 강연하는 김 교수. 연합뉴스

Q, "매일신문 권성훈 기자는 어떤 평가를 받는가요?"

챗GPT는 어떤 기자에게나 할 수 있는 원론적인 답변을 했다. 〈A〉"정확한 정보를 가지고 있지는 않지만, 꾸준히 다양한 분야에서 다양한 주제에 대해 꾸준히 보도를 하고 계시며, 꾸준히 독자들의 관심을 받고 계십니다."

본인이 질문을 하고도, 답변에 부끄럽기만 하다. 전 세계가 챗GPT 열풍 속에 빠져들고 있지만, 아직은 믿고 신뢰할 만한 정보를 주는 지에 대해서는 고개를 젖게 된다. 27일 한 일간지에서 '이재명 더불어민주당 체포동의안 발부'에 대한 질문에 대해서도 챗GPT는 "범죄 행위를 저지른 국회의원도 일반시민과 마찬가지로 법적 책임을 져야 합니다."라고 헌법에 입각한 답변을 했다.

오픈AI의 '챗GPT', 마이크로소프트(MS)의 빙 챗봇, 구글의 '바드' 등 인공지능(AI) 챗봇들이 하나마나한 뻔한 답변이나 때때로 잘못된 정보 또는 황당한 답변을 내놓는다. 26일(현지시간) 미 일간 뉴욕타임스(NYT)에 따르면 AI 과학자들은 AI 챗봇들의 기이한 답변이 상당 부분 사용자인 인간들의 영향 때문이라고 진단했다.

1970년대 말부터 신경망 AI를 연구해 현대 AI의 기초 구축에 기여한 테리 세즈노스키 샌디에이고 캘리포니아대(UC샌디에이고) 교수는 챗봇 이용자의 말과 의도가 챗봇에 왜곡돼 반영될 수 있다고 주장했다. 과학저널 '뉴로 컴퓨테이션'에 이런 내용을 담은 논문을 발표한 그는 "챗봇은 사람들이 찾고 원하는 것은 무엇이든 제공한다"고 말했다.

세즈노스키 교수는 "인간과 챗봇은 서로 '미러링'하고 있다. 장시간 대화를 하면 인간과 챗봇이 같은 생각으로 수렴하는 경향이 있다"고 "이는 인간이 이전에는 전혀 경험하지 못했던 미지의 세계"라고 말했다.

실제 AI 챗봇은 인터넷에 있는 엄청난 양의 디지털 문서를 분석해 학습하는 거대 언어모델(LLM) 기술로 구동하는데, 문제는 LLM이 학습하는 문서에는 거짓되거나 편향되거나 유해한 내용이 포함되며, 업데이트 되지 않은 오래된 정보까지 담고 있다.

또 LLM은 챗봇이 무엇을 말해야 하는지 단어 단위로 추론해 다음 단어를 생성하는데, 이용자가 말한 문장까지 포함해 추론한다. 특히, 이용자는 대화가 길어질수록, 챗봇이 내놓는 답변에 더 많은 영향을 미치게 된다.

하지만 실제 챗봇들이 답변을 생성할 때, 인터넷에 있는 문장을 그대로 되풀이하는 것이 아니라 수십억 개의 패턴을 자체적으로 조합해 새로운 문장을 만들어 내기 때문에 이런 이상한 행동을 이용자의 영향으로만 설명할 수 없다는 지적도 있다.

미국 산타페 연구소의 AI 연구자인 맬러니 미첼 박사는 "연구자들이 동료평가 같은 학문적 검증을 거친 과학적인 연구 결과나 사실인 내용만 학습시켜도 과학적으로 전혀 이해할 수 없는 결과물, 허위 주장을 만들어낼 수 있다"고 경고했다.

TV매일신문 야수 앵커에 대한 챗GPT의 답변. 권성훈 기자