‘AI 슬롭’ 대응책? 소셜 플랫폼마다 전략 다르다
신고 버튼부터 페널티 부과까지
구글 검색 선호 매체로 추가
최근 AI 탐지 스타트업 팽그램(Pangram)이 충격적인 연구 결과를 발표했습니다. 링크드인, 레딧, 서브스택, 엑스(옛 트위터) 등 소셜미디어 플랫폼 내 롱폼 게시물(250단어 이상) 백만 개 이상을 분석한 결과 전체의 약 25%가 AI 생성 콘텐츠로 밝혀진 것입니다. 즉 우리가 주요 소셜미디어에서 읽는 장문 글 4개 중 1개는 완전히 AI에 의해 만들어졌다는 뜻입니다.
AI 생성 콘텐츠의 포화로 인해 함께 대두되는 문제가 있습니다. 바로 ‘AI 슬롭(AI Slop)’입니다. 생성형 AI로 대량 생산된 저품질 콘텐츠를 통칭하는 단어인 AI 슬롭은 AI 시대의 새로운 디지털 공해로 떠오르고 있는데요. 인터넷 시대, 이메일 생태계를 오염시켰던 ‘스팸(Spam)’이 그러했듯 말이죠.
AI 슬롭 문제는 AI 콘텐츠 제작 비용이 ‘제로’에 가까워지면서 심화되고 있습니다. 특히 게시물의 가시성과 조회수 자체가 곧 평판 및 수익으로 직결될 수 있는 소셜미디어에서 더 심각한 양상을 보이고 있는데요. 정제되지 않은 AI 콘텐츠가 무분별하게 배포되며 사용자의 피드를 더럽히고 플랫폼의 신뢰도를 떨어뜨리고 있는 것이죠.
이에 소셜미디어 플랫폼들은 ‘AI 슬롭과의 전쟁’을 선포했습니다. 플랫폼의 이미지 추락을 막고 진짜 사람 크리에이터의 콘텐츠가 묻히는 것을 막기 위해 적극적인 규제에 나선 것입니다. 하지만 플랫폼들이 대응하는 방식은 주요 사용자 유형과 운영 메커니즘, 수익 구조 등에 따라 제각각입니다. 신고, 제한 등 강력한 조치로 AI 슬롭을 퇴출하는 곳이 있는 반면 사용자 커뮤니티가 직접 나서 자정 운동을 벌이는 곳도 있죠.
이번 팽그램 연구 결과를 토대로 링크드인부터 틱톡, 레딧, 서브스택까지 소셜미디어 플랫폼들의 AI 슬롭 확산 양상과 플랫폼 특성에 따른 규제 정책을 살펴봤습니다.
‘AI 슬롭 신고’ 버튼 만든 링크드인
AI 슬롭의 오염도가 가장 심각한 플랫폼으로 지목된 곳은 뜻밖에도 세계 최대 비즈니스 네트워크 플랫폼인 ‘링크드인’ 입니다.
팽그램 연구 결과에 따르면, 링크드인의 롱폼 게시물 중 약 41%가 전적으로 AI에 의해 작성된 것으로 나타났는데요. 50단어에서 250단어 사이 숏폼 게시물에서도 AI 생성 비율이 30%에 달했습니다. 특히 링크드인 게시물이 전체 조사 대상의 3분의 1을 차지했음에도, 발견된 전체 AI 콘텐츠의 62%를 차지하며 ‘AI 포화도가 가장 높은 플랫폼’이라는 불명예를 얻었습니다.
왜 링크드인에서 유독 심할까요? 그 원인으로 플랫폼 특유의 알고리즘 인센티브가 지목되는데요. 링크드인의 알고리즘 인센티브는 전문적인 내용의 게시물을 꾸준히 발행하는 사용자에게 독자 도달률을 몰아주는 구조입니다. 이를 통해 얻게 된 존재감은 개인의 평판 상승과, 구직 및 채용, B2B 고객 확보 기회로 직결되죠.
때문에 타인에게 더 잘 노출되길 바라는 사용자는 양질의 콘텐츠를 계속 게재해야 한다는 압박을 피할 수 없는데요. 하지만 그러한 글을 매번 직접 쓰는 게 어렵다 보니 결국 많은 사용자가 AI에 의존하게 된 것이라는 분석이 나옵니다. 독일의 디지털 트렌드 분석가인 콘라드 울펜슈타인은 “링크드인이 AI 생성 콘텐츠 비율이 높은 것은 수년간 형성된 인센티브 구조 때문”이라며 “고객 확보 기회를 좌우하는 가시성에 대한 압박이 게시물을 올리도록 부추기는데, 이는 고품질 콘텐츠에 대한 요구와 상충된다”고 지적했습니다.
그러면서 “이 딜레마로 많은 사용자가 텍스트 작성을 생성형 AI에 맡기고 있다”며 “그 결과 피드는 점점 더 특정한 패턴의 게시물로 채워진다”고 덧붙였습니다.
사실 링크드인은 그동안 플랫폼 내에 AI 글쓰기 보조 기능을 탑재하고 적극적으로 홍보해왔는데요. 이제 상황이 달라졌습니다. 링크드인에 AI로 생성한 부실 게시물이 늘어나고 있다는 인식이 확산되며, AI 슬롭 규제를 위한 칼을 빼들었죠. 로라 로렌제티 링크드인 총괄 편집장은 “AI가 과도하게, 자동화된 방식으로 사용되면 실제 사람과의 대화에서 나올 수 있는 통찰력이 희석된다”며 “문제를 해결하기 위해 자동화 도구에 대한 강력한 단속, 획일적인 콘텐츠 축소, 신뢰성 강화를 위한 의미 있는 조치를 취하고 있다”고 밝혔습니다.
먼저 AI 글쓰기 보조 기능은 작성자 문체를 유지하면서 문법을 교정하는 수준으로 축소 대체했습니다. 알고리즘 시스템으로 게시물 전체의 구조적 패턴을 분석해 AI 생성 콘텐츠로 분류된 게시물의 도달률을 최대 80%까지 감소시키는 제재도 가동하기 시작했습니다.
결정타는 ‘AI 슬롭 신고 버튼’입니다. 지난달 30일부터 게시물의 오른쪽 점 세 개 메뉴에 ‘AI 슬롭 같다(Seems like AI slop)’ 버튼을 추가한 것인데요. 버튼을 클릭하면 게시물은 가려지고, 신고된 게시물은 ‘관심 없음’ 기능과 비슷하게 알고리즘 노출이 줄어듭니다. 또 AI 슬롭 신고를 받은 작성자는 그 사실을 분석 대시보드로 확인할 수 있어, 단순 제재에 그치지 않고 자정까지 이뤄지도록 유도합니다.
이날 하리 스리니바산 최고제품책임자(CPO)는 자신의 링크드인 계정을 통해 신기능 도입을 알리며 “지난 몇 달 간 AI 슬롭을 포함해 수십 억 건에 달하는 게시물 게시 자동화 시도를 차단했다. AI 슬롭을 식별하는 새롭고 향상된 분류 시스템을 적극 도입하고 있다”며 강경 대응 기조를 강조했습니다.
링크드인, ‘AI 슬롭 신고’ 버튼 도입… 글쓰기 기능도 폐지
진정성 있는 게시글 늘린다
“틱톡샵 지켜라” AI 슬롭과 커머스 신뢰
숏폼 기반의 소셜미디어 플랫폼 틱톡도 AI 슬롭 오염이 가장 심각한 플랫폼 중 하나입니다. 생성형 AI로 만든 조악한 수준의 영상을 대량 배포해 조회수 보상을 챙기는 ‘콘텐츠 팜(Content Farm)’이 기승을 부리고 있는데요. 영상 길이와 조회수가 일정 기준을 충족하면 리워드가 지급되는 수익 구조 특성상, 대량 생산에 특화된 AI 슬롭이 판치기 좋은 환경인 것이죠.
실제 글로벌 동영상 편집 플랫폼 캡윙(Kapwing)의 최신 연구 보고서에 따르면, 틱톡 신규 계정의 알고리즘 피드에 노출되는 영상의 59%가 AI 슬롭으로 분류되는 것으로 나타났습니다. 이는 유튜브와 비교해 약 3배 더 많은 수치입니다. 특히 애니메이션이나 음성 나레이션으로 만들기 쉬운 과학·교육·건강·역사 등 분야에서 AI 슬롭 비율이 높게 집계됐습니다.
‘AI 슬롭’으로 뒤덮인 틱톡… 유튜브보다 3배 많아
캡윙 “AI 슬롭 비율 59%, 아동 콘텐츠 심각”
문제는 틱톡이 현재 인앱(In-App) 소셜 커머스인 ‘틱톡샵(TikTok Shop)’을 공격적으로 확장하고 있다는 점입니다. 틱톡샵은 아직 한국 시장에 착륙하지 않았지만 현재 미국, 영국, 브라질, 인도네시아 등 전 세계 19개국에서 빠르게 존재감을 키우고 있는데요. 미국 시장에서만 지난해 기준 연간 거래액(GMV)이 151억 달러(약 21조4000억원)를 넘기며 틱톡의 핵심 수익원 중 하나로 자리잡았습니다.
틱톡이 ‘AI 슬롭’에 민감할 수밖에 없는 이유입니다. AI로 생성된 과장·허위 광고와 가짜 리뷰 등이 피드를 점령하면 커머스의 구매 신뢰도가 흔들릴 뿐만 아니라 입점 브랜드의 이탈을 부르는 치명타가 될 수 있기 때문이죠.
이에 틱톡은 전방위적인 대응에 나섰습니다. 앞서 지난달 14일 AI 슬롭 대응을 강화를 공식 발표하며, 올해 1분기에만 8600만 개 이상의 허위 계정을 삭제했다고 밝혔는데요.
특히 기술적 거름망을 고도화하는 데 주력하고 있습니다. AI 슬롭을 반복 게시하는 계정을 더 효과적으로 식별하기 위한 목적이죠. 이미 2024년 AI 생성 콘텐츠 출처 정보를 확인할 수 있는 국제 표준 기술 ‘C2PA 인증’을 도입한 데 이어 크리에이터 라벨링 도구와 눈에 보이지 않는 워터마킹(Invisible Watermarking) 기술 등을 활용해 수십 억 건의 영상에서 AI 생성 표시를 부착하고 있습니다.
틱톡샵 보호를 위한 규제 가이드라인도 공개했습니다. 틱톡샵 공식 교육 센터인 틱톡샵 아카데미(TikTok Shop Academy)는 지난달 31일 ‘AI 생성 콘텐츠 제한 및 요건‘ 지침을 발표했는데요. AI 슬롭의 징계 및 제재 기준을 명확히 정의하고 있는 문서입니다.
틱톡샵에서 금지되는 AI 활용은 이렇습니다. 과장 및 허위 연출, 상품 정보 왜곡, 초상권 등 제3자 권리 무단 사용 모두 금지되고요. 의사, 교수 등 가짜 전문가 페르소나를 생성한 광고 역시 제재 대상입니다. 이를 위반할 경우 공식 경고 및 콘텐츠 수정 요구와 같은 경징계부터, 크리에이터 판매 수수료 출금 권한 영구 정지, 홍보 권한 박탈, 나아가 계정 영구 차단까지 가해질 수 있습니다.
서브스택, ‘유료 구독 취소’ 페널티
반면 AI 슬롭의 비율이 상대적으로 낮거나 효과적인 자정 메커니즘을 작동시키는 소셜미디어 플랫폼들도 있습니다.
‘서브스택’과 ‘레딧’이 대표적입니다. 팽그램 조사 결과에 따르면, 이들 플랫폼에서 AI가 전적으로 작성한 롱폼 게시물 비율은 약 10% 수준에 불과했는데요. 숏폼 게시물 비율을 따져봐도 레딧은 3%, 서브스택은 12%에 그쳤습니다. 대신 사람이 직접 작성한 게시물의 비율이 압도적으로 높았습니다. 왜 그럴까요? 역시 플랫폼의 특성과 관련이 깊습니다.
텍스트 콘텐츠 기반의 구독형 소셜미디어 플랫폼인 서브스택은 팽그램 조사에 오른 플랫폼 가운데 롱폼 게시물의 AI 작성 비율이 가장 낮았습니다. 링크드인의 4분의 1 수준인 10%에 그쳤죠.
이 차이는 서브스택의 유료 구독 모델에서 기인합니다. 서브스택은 엄밀히 말해 창작자 중심의 콘텐츠 직거래 플랫폼인데요. 독자가 읽고 싶은 뉴스레터의 작성자에게 매달 직접 구독료를 지불하는 방식이죠. 이때 구독료는 작성자가 본사의 가격 기준에 맞춰 직접 책정하고요. 작성자를 지지하거나 응원하는 독자들은 후원금 형태로 구독료 이상의 금액을 전달할 수도 있습니다.
이러한 직거래 구조의 생명은 ‘신뢰’입니다. 독자는 돈을 내는 만큼 작성자로부터 양질의 글을 받기를 원하죠. 작성자 또한 유료 구독자를 유지하기 위해 콘텐츠에 공을 들일 수밖에 없습니다. 다시 말해, 서브스택 생태계에서 콘텐츠의 신뢰가 무너지면 곧바로 유료 독자의 ‘구독 취소’라는 결과가 돌아오는 것이죠.
이 같은 경제적 페널티의 가능성은 작성자가 AI에 전적으로 의존하는 것을 자제하게 하는 억제력으로 작동합니다. 창작자와 독자 간 신뢰를 바탕으로 한 유료 구독이 AI 생성 콘텐츠, AI 슬롭의 진입 장벽이 되는 셈입니다.
레딧, 커뮤니티 구성원들의 자율 방어
레딧은 사용자들이 자발적으로 운영하는 커뮤니티 중심의 플랫폼입니다. 레딧이라는 큰 울타리 안에 수많은 하위 커뮤니티(서브레딧)가 독립적으로 운영되는 구조인데요. 다루는 주제도 유머부터 일상 정보, 엔터테인먼트, 과학 등 매우 다양합니다.
레딧의 분권화된 하위 커뮤니티 구조는 AI 슬롭 범람을 제어하는 데 보다 유리합니다. 각 커뮤니티가 자율적으로 필터링을 가동하기 때문이죠. 이를테면 서브레딧의 운영진들은 AI 생성 콘텐츠 전면 금지를 공표하는 등 독자적인 규칙을 즉시 도입할 수 있습니다. 만일 운영진이 AI 슬롭을 방치해 커뮤니티가 오염되면, 사용자들이 직접 나서 새로운 커뮤니티 공간을 개설하기도 합니다. 게시물 대상 추천·비추천 투표 시스템도 AI 슬롭을 신속하게 걸러내는 데 한몫 하고요.
무엇보다 장기간 형성된 ‘맥락’에 기반한 커뮤니티 문화에 AI 슬롭은 좀처럼 끼어들기 어렵습니다. 주로 보편적인 내용을 담는 AI 생성 콘텐츠는 사용자들끼리 공유하는 밈(Meme)이나, 개인적 경험, 즉흥적 반응 등을 흉내내는 것이 쉽지 않기 때문입니다. 실제로 팽그램 조사 결과를 보면 레딧 게시물 내 댓글의 98.1%는 사람이 작성한 것으로 나타났습니다.
이에 더해 본사 차원에서도 AI 슬롭 규제에 힘을 싣고 있습니다. 레딧은 지난달 ‘AI 시대에 레딧을 진정성 있고 안전한 공간으로 유지하는 방법(How We’re Keeping Reddit Real and Safe in the AI Era)’이라는 아티클을 게시하며 내부 방어 시스템 고도화 성과를 전했는데요. 수 개월 전 도입한 부정 게시물 사전 차단, 자동 계정 본인인증 요청 기능 등을 통해 하루 약 2300만 건의 스팸 게시물을 사용자가 보기 전에 차단했다고 밝혔습니다.
링크드인, 틱톡, 레딧, 서브스택 등 소셜미디어 플랫폼들의 AI 슬롭 규제 방식을 알아봤습니다. 그 방식이 플랫폼 특성과 사용자 유형에 따라 어떤 차이를 보이는지도 함께 살펴봤고요.
결국 플랫폼들의 AI 슬롭 방어 성공 여부는 AI 탐지 기술의 성능으로만 가려지는 것은 아니었습니다. 플랫폼이 어떤 비즈니스 모델과 인센티브 구조를 가지고 있는가 또한 큰 영향을 미쳤죠. 조회수나 가시성 확보 경쟁을 유도하는 무료 알고리즘 기반의 플랫폼(링크드인, 틱톡)은 AI 슬롭이 폭증하는 데 용이한 환경이고, 따라서 강력한 제재와 기술적 거름망을 고도화하는 데 힘을 쏟았습니다. 반면 여러 커뮤니티가 자생하고(레딧), 유료 구독 모델 중심의 플랫폼(서브스택)에선 AI 슬롭 양산이 자체적으로 억제됐습니다. 특히 커뮤니티 구성원들 간, 창작자와 구독자 간 긴밀한 관계가 억제의 동력이 됐죠.
생성형 AI로 콘텐츠의 제작 비용은 ‘제로’, 생산량은 ‘무한대’에 가까워진 시대, 소셜미디어 플랫폼의 경쟁은 사용자 수와 콘텐츠 유통량 등 가시적 지표에서 끝나지 않는 것 같습니다. 어쩌면 진짜 경쟁은 어디가 더 ‘인간적인’ 플랫폼 환경을 갖추고 있는가에 달려 있는지도 모릅니다.
AI 사용 표기했다고 끝이 아니다… 시프트업이 직면한 ‘AI 슬롭’ 논란
스텔라 블레이드가 보여준 생성형 AI 콘텐츠의 경계
구글, 디자인 툴 ‘구글 픽스’ 출시… 캔바 대항마 될까
나노 바나나 기반… 구글 워크스페이스 내 탑재
뉴스콘텐츠는 저작권법 제7조 규정된 단서조항을 제외한 저작물로서 저작권법의 보호대상입니다. 본 기사를 개인블로그 및 홈페이지, 카페 등에 게재(링크)를 원하시는 분은 반드시 기사의 출처(로고)를 붙여주시기 바랍니다. 영리를 목적으로 하지 않더라도 출처 없이 본 기사를 재편집해 올린 해당 미디어에 대해서는 합법적인 절차(지적재산권법)에 따라 그 책임을 묻게 되며, 이에 따른 불이익은 책임지지 않습니다.
- 에디터최석영 (csyeong720@ditoday.com)
