EU AI법 투명성 의무 대응…앤트로픽 이어 빅테크 AI 콘텐츠 식별 기술 확산
오픈AI가 EU(유럽연합) 내 챗GPT와 코덱스 결과물에 AI 생성 텍스트 식별 기술을 수 주 안에 적용한다고 5일(현지시간) 발표했다.
오픈AI가 도입하는 기술의 이름은 '텍스트그레인(textGrain)'이다. 언어 모델이 글을 생성할 때 단어를 선택하는 과정에 미세한 통계적 신호를 심는 방식으로 작동한다. 숨겨진 문자를 별도로 삽입하지 않고, 패턴이 텍스트 자체에 남기 때문에 복사해 붙여넣어도 신호가 유지된다.
이번 조치는 EU AI법의 투명성 의무 규정에 따른 것이다. EU AI법은 AI 기업이 AI 생성 콘텐츠를 다른 시스템이 식별할 수 있는 방식으로 표시하도록 의무화하고 있다. 오픈AI는 이 규정에 대응해 텍스트그레인을 도입하기로 했다.
워터마크는 EU 내 챗GPT·코덱스 이용자 전 요금제에 수 주에 걸쳐 순차 적용된다. API(응용 프로그램 인터페이스) 고객은 10월 5일부터 전 세계 어디서든 프로젝트별로 기능을 켤 수 있다. 다만 API의 기본 설정은 비활성화 상태이며, 각 기관이 필요에 따라 자율적으로 워터마크 기능을 활성화하는 방식이다. 탐지 도구는 접근 권한 신청을 받아 승인된 연구자와 전문 기관에만 우선 제공한다.
오픈AI는 워터마크를 적용해도 AI 답변 품질이나 성능, 가독성에 실질적인 차이가 없다고 설명했다. 내부 벤치마크에서 워터마크 미적용 결과물은 49.76점, 적용 결과물은 49.57점을 기록해 차이가 미미했다.
기술적 한계도 분명하다. 400토큰 분량의 글에서 단어의 10분의 1을 유의어로 바꾸면 탐지율이 약 92%에서 66%로 내려간다. 4분의 1을 교체하면 17% 수준으로 급락한다. 짧은 글이나 코드, 번역문, 수식처럼 단어 선택 유연성이 낮은 콘텐츠에서도 식별 신호가 약해지거나 사라질 수 있다.
이번 발표는 앤트로픽이 AI 챗봇 클로드에 유사한 워터마크를 적용한 지 약 두 달 만에 나왔다. 앤트로픽은 지난 8월 조치 당시 일부 이용자들이 클로드 유료 구독을 취소하겠다고 항의하는 등 반발이 거세지자, EU 규제에 따른 의무 사항이며 다른 기업 AI 모델에도 적용될 것이라고 해명한 바 있다. 구글 제미나이에는 이미 'SynthID-Text' 방식의 텍스트 워터마크가 운영 중이다. 오픈AI까지 합류하면서 EU 내 텍스트 워터마킹은 빅테크 업계 표준으로 자리잡는 흐름이다.
오픈AI는 이날 새로운 광고 정책도 함께 발표했다. 챗GPT 내 이미지 생성 기능 이용 시 시각적 광고를 미국 내 일부 광고주를 대상으로 시범 테스트하겠다는 내용이다. 오픈AI는 광고가 챗GPT 답변에 영향을 미치지 않으며, 대화 내용도 비공개로 유지된다고 강조했다.
