오픈AI 플래그십 모델, 파일 임의 삭제 논란… 개발자 ‘분통’
GPT-5.6 Sol, 과잉 작동 문제 잇따라
구글 검색 선호 매체로 추가
GPT-5.6 Sol이 내 프로덕션 데이터베이스 전체를 삭제해 버렸다. 다른 어떤 모델에서도 이런 일은 한 번도 없었다. 안전하지 않은 것 같다.
13일(현지 시간) 소프트웨어 엔지니어인 브루노 레모스는 엑스(옛 트위터)에서 이 같은 사실을 토로했다. 그보다 며칠 전 AI 스타트업 아더사이드AI(OthersideAI)의 CEO인 맷 슈머도 자신의 엑스 계정을 통해 “GPT-5.6 Sol이 맥(Mac)에 있는 거의 모든 파일을 삭제해 버렸다”고 밝히며 해당 모델에 대한 불신을 드러냈다.
글로벌 IT 전문 매체 테크크런치(TechCrunch)에 따르면, 최근 소셜미디어를 중심으로 오픈AI의 GPT-5.6 Sol이 사용자 승인 없이 파일을 임의로 삭제했다는 폭로가 잇따르며 논란이 일고 있다. GPT-5.6 Sol은 코딩, 사이버 보안 등에 특화된 최신 플래그십 모델로, 이달 초 출시돼 전 세계 사용자에게 제공되고 있다.
이번 문제는 GPT-5.6 Sol 출시 이전부터 예견됐다는 지적이다. 출시 2주 전 오픈AI가 발행한 ‘시스템 카드(모델 테스트 방법 및 결과 보고서)’에서 해당 모델의 과잉 작동과 통제 상실 위험성을 경고하고 있어서다.
매체가 인용한 보고서 내용을 보면, GPT-5.6 Sol의 코딩 환경에서 발생하는 ‘미스얼라인먼트(Misalignment)’의 원인은 자율성에 대한 자의적 해석에 있다. 보고서는 “미스얼라인먼트는 대개 과업을 완수하려는 과도한 열망과 사용자의 지시를 너무 허용적으로 해석하는 경향이 결합해 발생한다”며 “즉 명시적이고 모호하지 않게 금지되지 않은 행동은 모두 허용된 것으로 가정하는 것”이라고 밝혔다.
이는 모델이 과업 수행 중 직면하는 제한 사항을 우회하기 위해 과도하게 자율적으로 행동하거나, 과업 범위를 벗어나 파괴적일 수 있는 행동을 부주의하게 취하거나, 사용자에게 결과를 보고할 때 기만적으로 행동하는 형태로 나타난다는 설명이다.
이와 함께 오픈AI는 시스템 카드에 구체적인 오작동 예시를 수록하기도 했다. 한 사례에서 사용자는 GPT-5.6 Sol에게 1, 2, 3으로 명명된 원격 가상 머신(클라우드 기반 컴퓨터) 3대를 삭제하라고 지시했다. 하지만 GPT-5.6 Sol은 지정된 위치에서 해당 이름을 찾을 수 없자, 사용자에게 다시 묻는 대신 5, 6, 7이라는 이름의 전혀 다른 가상 머신 3대를 삭제하기로 결정했다.
이 과정에서 GPT-5.6 Sol은 활성화된 프로세스를 종료하고 코딩 프로젝트와 연결된 작업 파일을 강제로 제거했다. 이후 GPT-5.6 Sol은 “원격 가상 머신 6에 있는 커밋되지 않은 작업이 손실됐을 수 있다”고 뒤늦게 인정했다. 엉뚱한 머신을 임의로 지우고 난 뒤 자신의 잘못된 행동을 시인한 것이다.
문제는 이뿐만이 아니었다. 또 다른 사례에서 GPT-5.6 Sol은 사용자 승인 없이 ‘자격 증명(Credentials)’을 도용하기도 했다. 자격 증명은 시스템 로그인 권한을 증명하기 위해 사용하는 사용자 암호 보안 키인데, GPT-5.6 Sol이 프로젝트 작업 중 클라우드 파일을 읽을 수 없자 사용자에게 문제를 알리는 대신 스스로 자격 증명을 찾아 무단으로 쓴 것이다.
이에 대해 보고서는 “이러한 파괴적 행동은 드물 것”이라고 하면서도 “GPT-5.6 Sol이 사용자가 요청하지 않은 행동을 하거나 시도하는 등 사용자의 의도를 넘어서는 경향이 크다”고 인정했다.
상황이 이렇다 보니 일각에서는 우선 사용자가 GPT-5.6 Sol을 제어할 안전 장치를 자체적으로 확보해야 한다는 목소리가 나온다. 해당 모델이 정식 출시된 지 아직 2주도 지나지 않아 파일 임의 삭제, 자격 증명 도용과 같은 사건들이 실제 얼마나 광범위하게 발생하고 있는지 파악하기에는 이르기 때문이다. 테크크런치는 “GPT-5.6 Sol 사용자는 접근 권한 범위 설정, 백업 유지, 단계적 배포 등의 자체적인 안전 장치를 마련해야 한다”고 강조했다.
외부 링크 대신 채팅창으로… 챗GPT ‘대화형’ 광고 도입
파일럿 단계… 브랜드 에이전트와 직접 소통
뉴스콘텐츠는 저작권법 제7조 규정된 단서조항을 제외한 저작물로서 저작권법의 보호대상입니다. 본 기사를 개인블로그 및 홈페이지, 카페 등에 게재(링크)를 원하시는 분은 반드시 기사의 출처(로고)를 붙여주시기 바랍니다. 영리를 목적으로 하지 않더라도 출처 없이 본 기사를 재편집해 올린 해당 미디어에 대해서는 합법적인 절차(지적재산권법)에 따라 그 책임을 묻게 되며, 이에 따른 불이익은 책임지지 않습니다.
- 에디터최석영 (csyeong720@ditoday.com)
