알리바바 큰원4-맥스·텐센트 Hy4·문샷 AI 키미 K3.1 프로, 공격적 사이버 능력 학습 데이터 단계적 제거
알리바바, 텐센트, 문샷 AI가 최신 AI 모델에서 공격적 사이버 해킹 기능을 일제히 제거했다.
알리바바는 새 플래그십 AI 모델 '큰원4-맥스(Qwen4-Max)'를 공개하면서 소프트웨어 취약점을 탐지하고 수정하는 방어 목적의 사이버보안 역량은 유지하되, 공격적 해킹 기능과 관련한 학습 데이터는 배제했다고 밝혔다. 이번 조치는 중국 AI 업계에서 안전성에 대한 관심이 높아지는 흐름을 반영한다.
텐센트는 이달 초 최신 주력 모델 'Hy4'를 공개하면서 사이버 해킹 기능을 제거하고 방어 기능만 유지했다고 밝혔다. 문샷 AI도 지난 10월 추론·에이전트 특화 모델 '키미 K3.1 프로(Kimi K3.1 Pro)'를 출시하며 같은 조치를 취했다. 즈푸 AI(Zhipu AI)는 가장 민감한 사이버 기능을 신원 인증을 거친 사용자에게만 제공하는 방식을 택하겠다고 밝혔다.
문샷 AI는 키미 K3.1 프로 공개 당시 사이버 공격 데이터를 제거한 필터링 모델의 내부 보안 벤치마크 점수가 81.0%로, 제한 없이 학습시킨 원본 버전(90.5%)보다 9.5%포인트 낮아졌다고 스스로 밝혔다. 공격 기능을 걷어내면 성능 저하가 불가피하다는 점을 기업 스스로 인정한 셈이다.
이 같은 흐름은 중국 AI 기업들이 오픈웨이트 방식을 고수하는 데서 비롯된 딜레마를 보여준다. 오픈웨이트 모델은 충분한 하드웨어를 갖춘 누구든 내려받아 수정할 수 있어 악의적 행위자도 접근 가능하다. 중국 기업들은 오픈웨이트 방식을 포기하는 대신, 학습 데이터 필터링을 통해 해킹 기능만 선별적으로 제거하는 방식을 선택했다.
텐센트와 문샷 AI는 모두 폐쇄형(클로즈드소스) 버전을 먼저 공개한 뒤 수 주 후 오픈웨이트 버전을 단계적으로 내놓는 방식을 택했다.
중국 상무부는 지난 10월 특정 첨단 AI 관련 기술에 대한 수출 통제 초안을 발표하면서, 사이버 해킹 역량이 일정 기준을 넘어서는 기술에 대해 엄격한 추가 제한을 가하겠다고 예고했다. 이 수출 통제 초안이 기업들의 움직임을 촉발했다는 분석이 나온다. 중국 정책 분석 기관 트리비움 차이나는 해당 기준이 적용될 경우 키미, 큰원, 딥시크의 미래 버전도 규제 대상이 될 수 있다고 밝혔다.
앤스로픽은 지난 9월 프런티어 레드팀 분석 보고서에서 즈푸 AI의 오픈웨이트 모델 'GLM-5.3'이 자사 최고 사이버 보안 특화 모델인 '클로드 미소스 프리뷰(Claude Mythos Preview)'에 맞먹는 수준의 사이버 공격 능력을 보였다고 경고했다. 미국 국립표준기술연구소(NIST)는 GLM-5.3을 현재 출시된 사이버보안 작업용 오픈웨이트 모델 중 가장 뛰어난 성능을 가진 것으로 평가하면서, 미국 최첨단 시스템보다 기술적으로 약 4개월 뒤처진 것으로 추정했다.
다만 사이버 방어에 유용한 취약점 탐지 기능이 해킹에도 활용될 수 있는 이중 용도 특성 때문에, 악의적 행위자가 여전히 이들 모델을 악용할 가능성은 남아 있다.
이번 움직임은 리서치 기관 세미애널리시스가 10월 발표한 보고서에서 중국 주요 AI 개발사들이 857건의 모델 출시 중 3.6%에 대해서만 안전성 검사 결과를 공개했다는 사실이 드러난 이후, 투명성을 높이려는 업계의 자구 노력이라는 평가도 나온다.
한편 알리바바는 이번 큰원4-맥스를 가중치(weights) 공개 없이 출시했다. 가중치는 모델이 반응하는 방식을 결정하는 내부 설정값으로, 공개하지 않으면 사용자가 모델 전체를 내려받아 변형하는 것이 불가능하다.







댓글 많은 뉴스
박근혜 "아버지에 대한 그리움 더 깊어져"…박정희 탄신 109주년
[다시 보는 박정희 시대] 박근혜 "지금의 풍요는 산업화 결실, 아버지의 땀 되새겨"
김어준 진행했던 TBS에 73억 편성…방미통위원장, "프로그램 하나 대봐라" 이진숙 추궁에 진땀 [여의도.gif]
선관위 비협조에 막힌 특검 수사? "반성 없는 태도" 비판 고조
전북, 2036 올림픽 '단독개최' 추진…서울과 공동개최 접었다