유엔사무총장 "AI 주요 주제될 것"
안보리 회의서, 오픈AI CEO 브리핑
국제기준·감독체계 논의, 구체화 계기 주목
인공지능(AI)이 인간 통제를 벗어날 수 있다는 경고가 잇따르는 가운데 각국 정상이 모이는 유엔총회에서도 AI 위험 평가와 대응 방안이 논의된다.
제81차 유엔총회 고위급 일반토의가 22일(현지시간) 개막하는 가운데 이번 총회를 계기로 열리는 안보리 공개회의와 부대행사에서 이 같은 논의가 이어진다.
안토니우 구테흐스 유엔 사무총장은 지난 16일 기자들에게 "AI 개발 최전선에 있는 사람들이 제기한 우려를 외면해서는 안 된다"며 "AI가 다음 주 세계 정상들과의 논의에서 주요 의제가 될 것"이라고 밝혔다.
안보리 의장국 프랑스가 소집한 23일 공개회의는 장노엘 바로 프랑스 외교장관이 주재한다. 최근 AI 개발 속도를 늦춰야 한다고 밝힌 오픈AI의 샘 올트먼 최고경영자(CEO)가 참석해 브리핑한다.
프랑스는 개념설명서에서 "이번 회의가 AI 통제력 상실 위험이나 최신 AI 모델이 국제 평화와 안보에 영향을 미치는 행위를 개발·촉진·수행하는 데 활용될 위험에 대한 분석을 제시하는 자리"라고 설명했다.
24일에는 AI 안전단체 'AI 세이프티 커넥트'가 주도하고 유엔개발계획(UNDP)·유네스코와 일부 회원국 대표부 등이 공동 주최하는 AI 위기 대응 부대행사가 유엔본부에서 열린다.
이 행사에서는 ▷AI 모델 출시 전 안전성 시험 ▷독립적인 제3자 평가 ▷글로벌 공통 안전기준 마련 ▷AI 위기 발생 시 국제 공조 방안 등이 논의된다.
니콜라 미야유 'AI 세이프티 커넥트' 공동설립자는 "올해 유엔총회는 기업의 안전 약속에 국제사회가 무엇을 요구하고 누가 이를 감시할지 정하는 구상이 구체화하는 계기가 될 수 있다"고 말했다. 다만 그는 "구상을 어떤 형태로 만들지 합의하고 실제로 실행에 옮기는 일이 더 어려운 과제가 될 것"이라고 내다봤다.
