틱톡에 유해 콘텐츠가 없는 이유, 시청되기 전에 87.5%가 사라져
2021 2분기 커뮤니티 가이드라인 집행 보고서 발표
-2분기 커뮤니티 가이드라인 위반으로 삭제된 콘텐츠 8150만 여개
-삭제된 콘텐츠 중 93.5%는 24시간 이내 사라져
-유해 콘텐츠 중 시청 되기 전 제거된 콘텐츠 비율 1분기 81.8%-> 2분기 87.5%
-증오 행동, 희롱 및 괴롭힘 관련 콘텐츠 탐지율 개선 노력 지속
-라이브 방송 중 일부 시청자 댓글 막는 ‘음소거’ 기능도 새로 도입
글로벌 숏폼 모바일 비디오 플랫폼 틱톡이 2021 2분기 커뮤니티 가이드라인 집행 보고서를 14일 발표했다.
커뮤니티 가이드라인 집행 보고서는 이번 4월 1일부터 6월 30일까지의 데이터를 기준으로, 커뮤니티 가이드라인 위반으로 제거된 콘텐츠 및 계정의 규모와 유형 등을 기술한 보고서다. 웹사이트를 통해 누구나 볼 수 있다.
신고 전에 제거된다, 믿을 수 있는 틱톡
보고서에 따르면 2분기 커뮤니티 가이드라인 및 서비스 약관 위반으로 삭제된 영상은 전체 영상의 1% 가량인 8,150만 개에 달한다. 이 중 94.1%는 모니터링을 통해 사용자가 신고하기 전에 제거됐으며, 게시된 후 24시간 이내 신속하게 처리된 비율 또한 93%다. 특히 유해 콘텐츠가 노출되기 전 처리하는 모니터링의 성과가 돋보였다. 틱톡에 따르면 삭제된 영상의 87.5%는 게시 후 아무에게도 노출되지 않은 상태에서 제거됐는데, 이는 지난 1분기(81.8%) 대비 크게 개선된 수치다.
더욱 정밀한 모니터링을 위해 노력하는 틱톡
틱톡은 여러 유해 콘텐츠 유형 중에서도 증오 행동과 희롱 및 괴롭힘 관련 콘텐츠의 탐지율을 높이는 데에 노력을 기울이고 있다. 보고서에 따르면 전체 희롱 및 괴롭힘 영상과 증오 행동 영상 중 사용자 신고 전 제거된 비율은 1분기 각각 66.2%에서 73.3%, 67.3%에서 72.9%로 늘었다. 영상이 더욱 많은 사용자에게 노출되기 전 제거하는 콘텐츠 처리 속도를 높인 결과다.
틱톡은 혐오 표식과 단어·학대 신호 등이 포함된 영상을 자동으로 표시하는(Flag) 등 정밀한 모니터링 시스템을 위한 개선을 지속하고 있다. 틱톡은 이 밖에도 배경이나 맥락에 대한 이해 없이는 쉽게 식별하기 힘든 괴롭힘 및 혐오 관련 콘텐츠의 정밀 모니터링을 위해 정기적인 내부 교육을 계속하고 있다.
라이브 방송에서도 유해 콘텐츠는 필터링 가능
이번 결과 보고서와 함께 틱톡은 안전한 라이브 방송을 위한 새로운 기능도 발표했다. 라이브 방송 중 불쾌한 댓글을 남기는 사용자에 대해 일시적으로 댓글 기능을 막는 ‘음소거’ 기능이다. 라이브 방송 진행자나 진행자가 지정한 관리자가 짧게는 5초에서 길게는 라이브 종료 시까지 특정 사용자가 댓글을 남길 수 없도록 설정할 수 있다. 해당 기능이 적용된 사용자의 댓글 기록은 음소거되는 시간과 무관하게 모두 삭제되어 다른 사용자가 볼 수 없게 된다.
코맥 키넌(Cormac Keenan) 틱톡 신뢰와 안전 부문 총괄은 “틱톡은 플랫폼에서 발생할 수 있는 다양한 유해 콘텐츠를 빠르게 처리하기 위해 모니터링 시스템을 개선해나가는 한편, 잠재적인 폭력에서 사용자들을 보호할 수 있는 여러 안전 기능들을 지속적으로 선보일 것”이라고 밝혔다.
건전한 콘텐츠로 가득찰 때까지 노력하는 틱톡
틱톡의 2021 2분기 커뮤니티 가이드라인 집행 보고서는 틱톡 홈페이지 안전센터를 통해 전문을 확인할 수 있다. 한편 틱톡은 자신의 영상에 달린 모든 댓글을 필터링하거나, 최대 100개의 댓글을 한번에 삭제 및 신고하는 기능, 여러 사용자를 한 번에 차단하는 기능 등 여러 안전 기능을 꾸준히 도입하고 있다.
틱톡에 따르면 비방성 댓글을 남기려는 사용자가 댓글을 재고할 수 있게 팝업을 띄우는 ‘다시 생각해보기’ 기능은 지난 상반기 도입된 이후 10명 중 4명이 댓글을 수정하는데 영향을 미친 것으로 나타났다. 또한 진행자와 시청자 모두에게 안전하고 즐거운 라이브 방송을 위해 라이브 진행자가 댓글창을 닫거나, 특정 키워드가 포함된 댓글이 보이지 않도록 하는 키워드 필터 기능을 선보인바 있다.
