오픈AI도 ‘워터마크’ 넣는다… EU 내 챗GPT·코덱스 대상
EU 인공지능법 준수 방침… 전 세계 적용 아직
구글 검색 선호 매체로 추가
앤트로픽에 이어 오픈AI도 AI 생성 텍스트에 워터마크를 넣는다. 테크크런치는 5일(현지시간) 오픈AI가 유럽연합(EU)에서 챗GPT와 코덱스(Codex)가 생성하는 텍스트에 보이지 않는 워터마크를 삽입할 예정이라고 보도했다.
테크크런치에 따르면, 이는 EU 인공지능법(AI Act)을 준수하기 위한 방침이다. 앞서 현지시간 8월 2일 발효된 EU의 투명성 규정은 AI 기업이 AI 생성 콘텐츠에 다른 시스템이 식별할 수 있는 표시를 하도록 요구한다. 워터마크는 향후 몇 주에 걸쳐 EU 내 챗GPT·코덱스 이용자가 구독하는 모든 요금제에서 순차 적용될 예정이다.
이 워터마크는 눈에 보이는 표식이 아니다. 모델이 선택하는 단어에 미묘한 영향을 줘 사람은 알아볼 수 없고 전문 도구로는 탐지할 수 있는 패턴을 만드는 방식이다. 이처럼 워터마크가 단어 자체에 존재하기 때문에 텍스트를 복사해 붙여넣어도 유지된다. 다만 워터마크가 이용자를 식별하지는 않으며, 이를 활성화해도 모델 성능에 의미 있는 영향은 없다고 테크크런치는 전했다.
워터마크 탐지의 기술적 한계는 남아 있다. 오픈AI의 테스트 결과에 따르면, 400개 단어로 구성된 문단에서 단어의 10%를 동의어로 바꾸면 워터마크 탐지율이 약 92%에서 66%로 떨어졌다. 또 짧은 글, 수학 문제 풀이, 번역된 텍스트는 탐지가 더 어려운 것으로 나타났다. 이에 오픈AI는 워터마크 도입 초기에는 탐지기 접근 권한을 승인된 연구자와 전문 기관으로 제한하는 것으로 알려졌다.
워터마크가 당장 전 세계 기본값으로 적용되지는 않을 것으로 보인다. 오픈AI는 출시 시점부터 텍스트 워터마크를 전 세계 기본 기능으로 설정하지는 않겠다고 밝혔다. 다만 전 세계 개발자들은 오늘부터 특정 모델 API에서 워터마크를 선택적으로 켤 수 있다.
한편, 오픈AI의 이번 발표는 앤트로픽이 클로드 생성 텍스트에 워터마크를 삽입하겠다고 나선 지 두 달 만에 이뤄졌다. 앞서 지난 8월 앤트로픽은 EU를 시작으로 추후 클로드가 제공되는 전 세계 모든 국가 대상으로 워터마크를 적용하기로 해 일부 이용자의 반발을 샀다.
AI 생성 글에 ‘워터마크’ 붙는다… 앤트로픽, 클로드 전 모델 적용
이달부터 EU 우선 적용… 추후 전 세계 확대
“편집해도 안 사라진다?” 클로드 워터마크 둘러싼 오해 5가지
텍스트 워터마크 기술 팩트체크
뉴스콘텐츠는 저작권법 제7조 규정된 단서조항을 제외한 저작물로서 저작권법의 보호대상입니다. 본 기사를 개인블로그 및 홈페이지, 카페 등에 게재(링크)를 원하시는 분은 반드시 기사의 출처(로고)를 붙여주시기 바랍니다. 영리를 목적으로 하지 않더라도 출처 없이 본 기사를 재편집해 올린 해당 미디어에 대해서는 합법적인 절차(지적재산권법)에 따라 그 책임을 묻게 되며, 이에 따른 불이익은 책임지지 않습니다.
- 에디터최석영 (csyeong720@ditoday.com)
