AI 생성 글에 ‘워터마크’ 붙는다… 앤트로픽, 클로드 전 모델 적용
이달부터 EU 우선 적용… 추후 전 세계 확대
구글 검색 선호 매체로 추가
생성형 AI ‘클로드’ 개발사인 앤트로픽이 자사 모델이 생성하는 모든 텍스트에 AI 출처를 식별할 수 있는 ‘보이지 않는 워터마크(Invisible Watermark)’를 삽입한다고 발표했다. 이달 초부터 유럽연합(EU) 내 신규 출시 모델에 우선 적용하며 향후 전 세계로 확대 적용하겠다는 방침이다.
11일(현지 시간) 글로벌 비즈니스·IT 매체 패스트컴퍼니(FastCompany)는 앤트로픽이 공식 문서를 통해 이 같은 방침을 공개했다고 보도했다.
이번 조치는 EU의 최신 AI 투명성 법률에 대응하기 위한 것으로, 앤트로픽은 해당 워터마크 정책을 클로드가 제공되는 전 세계 모든 국가에 동일하게 적용할 방침이다. 현재 미국에서는 법적으로 AI 생성물에 대한 투명성 고지나 워터마크 삽입을 의무화하고 있지 않지만, 캘리포니아주를 비롯한 일부 주에서 AI 라벨링을 포함한 AI 투명성 법률을 제정하고 있다.
앤트로픽이 공개한 문서에 따르면, 앤트로픽은 EU의 AI 법안 제50조 2항 ‘AI 생성 콘텐츠 투명성에 관한 실천 강령(Code of Practice on Transparency of AI-Generated Content)’에 서명했으며, 이를 이행하기 위한 세부 계획을 명시했다.
먼저 이달 2일 이후 EU에서 출시되는 신규 클로드 모델들의 AI 생성 텍스트에는 보이지 않는 워터마크가 내장된다. 또 EU 규정에 따라 앤트로픽은 오는 12월 2일까지 약 4개월의 유예기간 동안 기존에 출시된 모델에 기계 판독이 가능한 워터마크 지원 업데이트를 완료해야 한다.
앤트로픽 측은 텍스트에 워터마크를 삽입하는 기술적 메커니즘에 대해 상세히 밝히지는 않았으나, 해당 표식이 텍스트 복사·편집 과정에서도 그대로 유지된다고 설명했다. 앤트로픽은 “워터마크는 텍스트의 일부이므로 텍스트를 복사해 다른 곳에 붙여넣더라도 함께 이동한다”며 “일부 편집 과정에서도 유지될 수 있다”고 밝혔다.
이는 모든 클로드 모델에서 동일하게 적용된다. 클로드 플랫폼(API), 클로드는 물론 클로드 코드, 클로드 코워크, 클로드 태그 등도 포함된다. 앤트로픽은 “모델 차원에서 적용되기 때문에 어떤 클로드 제품인 것과 관계없이 항상 표시된다”고 설명했다. 이 밖에 구체적인 기술 사양은 추후 ‘기술 문서’를 통해 공개될 예정이다.
아울러 앤트로픽은 AI가 생성한 이미지, 비디오, 오디오 등에 대해서도 출처 데이터를 삽입할 예정이다. 콘텐츠 출처 및 진위 확인을 위한 국제 기술 표준인 ‘C2PA(Coalition for Content Provenance and Authenticity)’이 사용될 전망이며, 이는 미국 캘리포니아주의 AI 투명성 법안 요건을 충족하기 위한 전략이라는 분석이 나온다.
한편, EU의 이번 ‘AI 생성 콘텐츠 투명성에 관한 실천 강령’에는 190여 개의 글로벌 기업 및 단체가 서명한 것으로 알려졌다. 앤트로픽을 비롯해 오픈AI, 구글, 마이크로소프트, 아마존, 미스트랄, 코히어 등이 이름을 올렸다. 반면 일론 머스크의 xAI와 마크 주커버그의 메타는 서명 목록에서 빠져 눈길을 끌었다.
“편집해도 안 사라진다?” 클로드 워터마크 둘러싼 오해 5가지
텍스트 워터마크 기술 팩트체크
피그마는 왜 AI 시대에 종이 잡지를 출간했을까?
아날로그가 선사하는 느린 고뇌의 가치
뉴스콘텐츠는 저작권법 제7조 규정된 단서조항을 제외한 저작물로서 저작권법의 보호대상입니다. 본 기사를 개인블로그 및 홈페이지, 카페 등에 게재(링크)를 원하시는 분은 반드시 기사의 출처(로고)를 붙여주시기 바랍니다. 영리를 목적으로 하지 않더라도 출처 없이 본 기사를 재편집해 올린 해당 미디어에 대해서는 합법적인 절차(지적재산권법)에 따라 그 책임을 묻게 되며, 이에 따른 불이익은 책임지지 않습니다.
- 에디터최석영 (csyeong720@ditoday.com)
