AI 안전·연합학습 연구 성과 국제 무대서 인정
생성 AI 유해 방지·연합학습 한계 극복 기술 발표
24.52% 채택률 속 2편 선정, 1편은 상위 3% Spotlight
AI의 위험은 막고 가능성은 넓혔다. 경북대 교수팀의 연구가 세계적 학술대회 무대에 오른다. 생성 AI 안전과 연합학습 혁신을 담은 두 편의 논문은 국제적 주목을 끌고 있다.
경북대학교(총장 허영우)는 대학원 인공지능학과 정희철 교수팀과 강재모 교수팀의 논문 2편이 인공지능(AI) 분야 세계 최고 권위의 학술대회인 'NeurIPS 2025'에 채택됐다고 13일 밝혔다.
정희철 교수팀은 최근 사회적 문제로 대두된 생성 AI의 유해·성적 콘텐츠 생성을 원천적으로 방지하는 'DES(Distorting Embedding Space)' 기술을 다룬 연구 논문을 발표한다. 이 기술은 악의적 명령어를 AI가 이해하는 단계에서 왜곡·무력화해 공격 성공률을 크게 낮추면서도 정상 이미지 품질은 유지한 것으로 나타났다. 연구의 교신저자는 정희철 교수이며, 제1저자는 안재신 박사과정생이다.
강재모 교수는 공동저자로 참여한 연구에서 데이터 공유 없이 AI를 학습하는 '연합학습' 기술의 한계를 돌파한 새로운 알고리즘을 제시했다. 이 연구는 통신·계산 비용을 줄이면서도 정확도를 높였으며, 헬스케어·금융보안·자율주행 등 다양한 분야에 적용 가능성을 보였다. 특히 강 교수팀의 논문은 전체 논문 중 상위 약 3%에 해당하는 '스포트라이트(Spotlight)' 발표 논문으로 선정됐다.
NeurIPS는 구글, 메타, 엔비디아 등 글로벌 IT 기업들이 주목하는 세계 최고 권위의 학술대회다. 올해는 전체 투고작 중 24.52%의 논문만 채택됐으며, 경북대 연구팀의 두 논문은 오는 12월 2일부터 7일까지 미국 샌디에이고에서 발표될 예정이다.
정희철 교수와 강재모 교수는 현재 경북대 첨단기술융합연구원의 AI 연구유닛에도 참여 중이다. 두 교수는 생성형 AI의 안전성과 신뢰성 확보를 위한 원천기술 개발과 세계적 수준의 AI 전문 인재 양성에 주력하고 있다.
강재모 대학원 인공지능학과장은 "이번 성과는 경북대 인공지능학과가 AI의 핵심 분야에서 세계적 수준의 연구 경쟁력을 갖추고 있음을 보여준다. 앞으로도 우수한 연구 성과와 전문 인재 양성에 주력해 글로벌 AI 연구 허브로 도약할 수 있도록 하겠다"고 말했다.
