매출부터 안전성까지… 연이은 논란에 흔들리는 오픈AI
챗GPT 운영 부담 커… 사업 다각화 고려 중
지난달 AI 검색 엔진 ‘서치GTP’를 발표하며 본격적인 AI 검색 시장 진출을 알린 오픈AI가 최근 연이은 논란에 홍역을 치르고 있다.
4일(현지시간) 월스트리트저널(WSJ)에 따르면 오픈AI는 부정행위 감지 기술을 지난 2년간 공개하지 않은 것으로 나타났다. 사용자에게는 보이지 않는 워터마크를 통해 문서 내 챗GPT 활용 비중을 99.9%의 정확도로 판별하는 기술이다. 논문이나 대학교 과제에 챗GPT를 얼마나 사용했는지 쉽게 식별할 수 있다.
WSJ에 따르면 오픈AI는 기술 공개에 앞서 내부적인 갈등을 겪고 있다. 생성형 AI의 투명성을 높이는 것과 챗GPT 사용자 확보 사이에서 저울질을 했다는 설명이다. 오픈AI의 한 설문조사에 따르면 부정행위 감지 기술이 도입될 경우 챗GPT 사용자 중 3분의 1이 이탈할 것으로 답했다. 기술 악용도 우려됐다. 오픈AI 대변인은 “우리의 워터마킹 기술을 악용해 특정 사람이나 그룹을 공격하는 사례가 발생할 수 있어 출시를 결정하지 못했다”고 전했다.
그러나 일부에선 부정행위 감지 기술을 일찍 상용화 했어야 한다는 목소리도 나온다. 특히 학교에서다. 비영리 단체인 민주주의 기술 센터의 최근 조사에 따르면 학생들이 AI를 이용해 과제를 작성했다고 생각하는 미국 중고등학교 교사는 꾸준히 증가해 59%에 달한 것으로 나타났다.
이 가운데 오픈AI는 차세대 AI 모델 ‘GPT-5’의 출시에 앞서 미국 정부에 안전성 검증을 요청한 것으로 나타났다. 미국 AI안전연구소는 GPT-5의 알고리즘 편향성을 비롯해 환각현상, 사용 윤리 등을 검토할 예정이다.
이를 두고 외신은 오픈AI가 안전성에 소홀하다는 논란을 지우기 위함이라고 풀이한다. 지난 5월 오픈AI 엘렌 토너 전 이사는 “오픈AI는 AI 윤리나 안전 보다 수익 창출에 급급하다”고 폭로했다. 당시 제품 안전성을 담당하던 ‘초정렬팀’도 해체, 관련 직원들이 퇴사했다. 논란이 커지자 오픈AI는 지난 6월 안전 및 보안위원회를 다시 설립했다.
오픈AI는 현재 막대한 운영 비용 부담에 시달리고 있다. 지난달 말 디인포메이션 등 외신에 따르면 오픈AI는 챗GPT 운영비 부담으로 올해 50억 달러(약 6조 7885억원)의 손실을 입을 가능성이 있다.
한 업계 관계자는 “오픈AI가 파산을 피하기 위해 비즈니스 다각화를 모색하고 있는 상황”이라며 “부정행위 방지 기술의 공개를 망설인 것도, GPT-5 출시 전 미국 정부의 ‘보장’을 받으려는 것도 사용자 확보를 위한 행보로 풀이된다”고 했다.
뉴스콘텐츠는 저작권법 제7조 규정된 단서조항을 제외한 저작물로서 저작권법의 보호대상입니다. 본 기사를 개인블로그 및 홈페이지, 카페 등에 게재(링크)를 원하시는 분은 반드시 기사의 출처(로고)를 붙여주시기 바랍니다. 영리를 목적으로 하지 않더라도 출처 없이 본 기사를 재편집해 올린 해당 미디어에 대해서는 합법적인 절차(지적재산권법)에 따라 그 책임을 묻게 되며, 이에 따른 불이익은 책임지지 않습니다.
- 에디터장준영 (zzangit@ditoday.com)
