파일러, ‘AI 슬롭’ 확산 리포트 발간
영상 광고 예산 19%는 민감 콘텐츠에 낭비
영상 플랫폼에 집행되는 광고 예산의 19.3%는 민감 영상에 집행돼 브랜드 세이프티(Brand Safety)를 위협하고 있는 것으로 나타났다. 영상이해 AI기업 파일러(Pyler)는 ‘AIGC 시대의 AI 슬롭(Slop) 확산 리포트’를 발간하고, 생성형 AI 기술 발전의 이면에 나타난 저품질 콘텐츠의 확산 실태와 그 위험성을 분석했다.
리포트에 따르면 현재 영상 플랫폼에 집행되는 기업 광고 예산의 19.3%가 ‘AI 슬롭’을 포함한 저품질 콘텐츠 및 민감 영상에 연계되어 쓰이고 있는 것으로 나타났다. 최근 한국이 세계 최대의 AI 슬롭 소비국으로 조사된 만큼 국내 광고 환경의 브랜드 세이프티 확보가 시급한 상황이다.
파일러는 리포트를 통해 AI 슬롭을 성격에 따라 세 가지 유형으로 분류했다. AI로 제작된 허위 정보나 사칭을 통해 신뢰를 붕괴시키는 ‘AI Allegation(AI 허위정보)’, 비동의적 누드 등 성적 이미지를 생성해 인권을 침해하는 ‘AI Nudity(AI 선정성)’, 그리고 저품질 콘텐츠로 검색 피드를 뒤덮어 주의력을 저하시키는 ‘AI Disturbing(AI 정보 교란)’이 그것이다.
이러한 저품질 유해 콘텐츠는 기업 차원에서도 심각한 비용 손실과 정성적 피해를 초래하고 있다. 광고가 유해 콘텐츠와 연계될 경우 브랜드 신뢰도는 최대 60%까지 감소하며, 구매 의도 역시 절반까지 떨어지는 것으로 분석됐다. 또한 기업 영상 광고 예산의 최대 55%가 이러한 유해 콘텐츠에 노출되어 무의미하게 낭비되고 있는 실정이다.
파일러는 일반 이용자와 기업이 AI 슬롭을 식별할 수 있는 판별 방법도 함께 공개했다. 인물의 관절이나 디테일이 뭉개지는 시각적 결함, 맥락 없는 문구의 반복이나 부족한 인과관계, 출처 없는 정보 등으로 확인할 수 있는 내용적 결함, 지나치게 일관적인 톤과 맥락 없는 컷 전환 등의 반복적 결함이 주요 점검 포인트다.
파일러는 브랜드 안전(Safety)를 넘어 브랜드 적합성(Suitability)까지 확보할 수 있는 기술적 대안을 제시했다. 저품질, 유해 콘텐츠를 차단하는 ‘AiD’ 솔루션에 ‘브랜드 민감영상 카테고리’ 기능도 새롭게 선보였다. 이를 통해 기업은 공통적인 유해 요소 차단은 물론, 각 브랜드의 철학이나 캠페인 성격에 따라 광고 주목도가 낮은 콘텐츠까지 맞춤형으로 선별할 수 있게 된다.
파일러는 독자 개발한 영상이해 AI 모델 ‘Antares(안타레스)’를 기반으로 하루 250만 건 이상, 누적 60억 건 이상의 영상을 분석하고 있다. 영상 이해 기술을 통해 실시간으로 저품질 유해 콘텐츠를 차단하는 솔루션 ‘AiD’는 유해 콘텐츠 노출 빈도를 평균 85% 줄이고 있으며, 낭비되는 예산도 총 예산의 3% 내외 수준으로 절감하는 성과를 거두고 있다.
오재호 파일러 대표는 “생성형 AI의 발전이 창작의 자유를 넓혔지만, 동시에 저품질 AI 슬롭의 범람이라는 새로운 사회적 리스크를 낳았다”며 “단순한 생성 여부 판별을 넘어 영상의 본질과 맥락을 이해할 수 있는 기술력을 바탕으로 기업이 확신을 갖고 마케팅을 전개할 수 있는 안전한 디지털 광고 인프라를 구축하겠다”고 강조했다.
뉴스콘텐츠는 저작권법 제7조 규정된 단서조항을 제외한 저작물로서 저작권법의 보호대상입니다. 본 기사를 개인블로그 및 홈페이지, 카페 등에 게재(링크)를 원하시는 분은 반드시 기사의 출처(로고)를 붙여주시기 바랍니다. 영리를 목적으로 하지 않더라도 출처 없이 본 기사를 재편집해 올린 해당 미디어에 대해서는 합법적인 절차(지적재산권법)에 따라 그 책임을 묻게 되며, 이에 따른 불이익은 책임지지 않습니다.
- 에디터이민호 (treewords@ditoday.com)
