네이버, ‘AI 클린봇 3.0’ 통한 악성 댓글 대응 강화 발표
맥락에 따라 악의적 의도 탐지 고도화
구글 검색 선호 매체로 추가
네이버가 생명 경시 및 2차 가해 표현 탐지를 집중 강화한 악성 댓글 탐지 시스템 ‘AI클린봇 3.0’ 업그레이드를 완료했다고 29일 밝혔다.
이번 클린봇 업그레이드를 통해 네이버는 자살, 사망, 신체 훼손 등과 관련해 생명 경시를 조장하는 댓글, 사건, 사고 피해자 및 유족을 향한 조롱, 비하, 혐오성 댓글을 집중 차단한다.
아울러 ‘AI 클린봇 3.0’ 모델은 기사 맥락과 결합해 악성 댓글 탐지 능력을 강화한 것도 특징이다. 네이버는 뉴스 댓글 내용뿐 아니라 기사 제목, 본문을 종합해 악성 댓글을 탐지할 수 있도록 지속적으로 최적화 과정을 거쳤으며, 클린봇은 맥락에 따라 더욱 정확하게 악의적 의도를 탐지하도록 고도화됐다.
2019년 업계 최초로 선보인 ‘AI 클린봇’은 댓글 서비스 전반의 기술적, 정책적 노력과 더불어 급변하는 신조어, 혐오 표현 등에 대응하기 위해 탐지 범위, 정확도가 향상됐다. 악성 키워드 기반으로 욕설, 비속어를 자동 탐지하는 초기 수준을 넘어서 2020년 ‘문장 맥락’으로 악성 댓글 판단 기준을 확대해 욕설이 없더라도 모욕적 표현을 적극 탐지했다.
또한 네이버는 우회 악플 등을 막아 내기 위해 지속 업그레이드를 진행함과 동시에 지난 2023년 KISO(한국인터넷자율정책기구) 혐오표현 자율정책 가이드라인을 반영하는 등 적극 공조하며 건전한 소통의 장 마련을 위해 노력 중이다.
실제 네이버는 올해 정치, 선거 섹션 본문 하단 댓글 미제공, 악성 댓글이 일정 기준을 초과한 기사 대상으로 댓글 서비스 자동 비활성화 등 클린 댓글 서비스를 운영하기 위한 정책적 움직임을 이어가고 있다.
김수향 네이버 리더는 “네이버는 욕설, 비속어는 물론 새롭게 생긴 혐오, 비하, 차별 표현을 탐지하기 위해 클린봇의 성능을 지속 강화하고 있다”며 “생명 경시 조장, 피해자, 유족 조롱, 혐오 집중 차단을 비롯해 다양한 의견을 청취하며 클린봇 성능을 고도화할 예정이다”라고 밝혔다.
뉴스콘텐츠는 저작권법 제7조 규정된 단서조항을 제외한 저작물로서 저작권법의 보호대상입니다. 본 기사를 개인블로그 및 홈페이지, 카페 등에 게재(링크)를 원하시는 분은 반드시 기사의 출처(로고)를 붙여주시기 바랍니다. 영리를 목적으로 하지 않더라도 출처 없이 본 기사를 재편집해 올린 해당 미디어에 대해서는 합법적인 절차(지적재산권법)에 따라 그 책임을 묻게 되며, 이에 따른 불이익은 책임지지 않습니다.
- 에디터김동욱 (jkkims@ditoday.com)
