제81차 유엔총회 고위급 주간 중 23일 안보리 AI 안보 회의 열려…프랑스 주재, 글로벌 공통 기준 마련 논의
샘 올트먼 오픈AI 최고경영자(CEO)가 오는 23일 유엔 안전보장이사회에 직접 출석해 인공지능(AI) 안전과 국제 협력 필요성을 발언한다.
로이터통신은 18일(현지시간) 오픈AI 대변인을 인용해 올트먼 CEO가 유엔총회 기간 중 뉴욕에서 열리는 안보리 회의에서 브리핑할 예정이라고 보도했다. 15개 이사국으로 구성된 이번 안보리 회의는 23일 AI와 국제 안보를 의제로 열린다.
이번 회의는 9월 안보리 의장국인 프랑스의 요청으로 소집됐으며, 장 노엘 바로 프랑스 유럽외무장관이 주재할 예정이다. 오픈AI 대변인은 "올트먼 CEO의 발표는 국제적인 공조와 공통의 안전 기준 마련 필요성, 전 세계 사람들이 AI의 혜택을 누릴 수 있도록 오픈AI가 취하고 있는 조치 등에 초점이 맞춰질 것으로 예상된다"고 설명했다.
올트먼의 안보리 출석은 제81차 유엔총회 고위급 주간(9월 21~27일) 중에 이뤄진다. 안토니우 구테흐스 유엔 사무총장도 AI 위험에 대응하기 위한 국제 공조의 필요성을 촉구했다. 구테흐스 사무총장은 "AI 개발 최전선에 있는 사람들이 제기한 우려를 외면해서는 안 된다"며 "AI는 다음 주 세계 정상들과의 논의에서 분명 주요 주제가 될 것"이라고 밝혔다.
이번 회의는 지난 12일 다리오 아모데이 앤트로픽 CEO가 AI 위험성을 경고하고 개발 속도 조절 필요성을 주장한 뒤, 올트먼 CEO와 일론 머스크 스페이스X CEO 등 AI 기업 수장들이 연이어 지지 견해를 내놓으면서 속도조절론 논쟁이 격화하는 상황에서 열린다. 올트먼 CEO는 특히 아모데이 CEO와 의견을 같이하며 AI가 인간의 통제를 벗어날 수 있다는 경고에 적극적으로 나서고 있다.
외교 당국자에 따르면 앤트로픽 내 고위급 인사도 이번 안보리 회의에 참석할 것으로 예상되나 참석자 명단은 아직 확정되지 않았다. 외신 보도에 따르면 오픈AI·앤트로픽·구글은 AI 안전 대응 협력을 통해 AI 표준 기구 설립을 추진 중이다.
안보리 회의 다음 날인 24일에는 AI 안전단체 'AI 세이프티 커넥트'가 주도하고 유엔개발계획(UNDP)·유네스코 등이 공동 주최하는 AI 위기 대응 부대행사도 유엔본부에서 열린다. 이 자리에서는 AI 모델 출시 전 안전성 시험, 독립적인 제3자 평가, 글로벌 공통 안전기준 마련, AI 관련 위기 발생 시 국제 공조 방안 등이 논의될 예정이다.
AI 거버넌스 전문가이자 'AI 세이프티 커넥트' 공동설립자인 니콜라 미아유는 "이번 총회가 기업의 안전 약속에 국제사회가 무엇을 요구하고 누가 이를 감시할지 정하는 구상이 구체화하기 시작하는 계기가 될 수 있다"고 말했다. 그는 합의 도출과 실행이 더 어려운 과제가 될 것이라고 덧붙였다.
한편 유엔은 올해 2월 40개국으로 구성된 독립 국제 AI 과학패널 설립안을 117대 2로 가결했으나, 미국은 반대표를 던졌다. 도널드 트럼프 미국 대통령은 AI 위험 경고를 "사기"라고 일축하며 강화된 감독에 반대 입장을 유지하고 있다. AI 주도권을 둘러싼 미중 경쟁이 치열한 가운데, 유엔총회 고위급 주간 직후 열릴 트럼프 대통령과 시진핑 중국 국가주석의 정상회담에서도 AI 문제가 논의될 것으로 예상된다.
