UX 디자인 관점에서 본 구글 제미나이 논란
AI에도 UX 디자인이 필요합니다
“이는 절대 용납될 수 없는 일이며 우리가 잘못한 일입니다.” 순다르 피차이 구글 CEO가 지난 달 29일 오후 직원들에게 보낸 이메일의 일부 내용이다.
구글은 지난 2월 초 주요 인공지능(AI) 모델 그룹인 제미나이를 통해 이미지 생성기능을 도입했다. 구글은 사용자가 원하는 프롬프트 또는 메시지를 입력해 원하는 이미지 생성을 요청할 수 있다고 설명했다. 하지만 제미나이가 제공한 이미지는 사용자가 원하는 이미지와 다소 거리가 멀었다.
제미나이는 백인을 묘사하기를 거부하거나, 바이킹이나 나치, 교황 등의 인물 이미지 생성 요청 시 요청에 없던 여성이나 유색 인종을 삽입하고, 아동성애를 옹호하는 등 정치적 올바름을 과도하게 반영해 인종차별적인 이미지를 생성하고 적절치 못한 답변을 제공했다.
결국 구글은 제미나이에 이미지 생성 기능을 추가한지 약 20일 만에 해당 서비스를 일시 중단했다. 이에 구글은 사과와 함께 수정을 진행할 것이라 밝혔지만 사태는 잠재워지기는커녕 CEO 사임 요구가 나오는 등 반발이 거세지고 있다.
한편 이렇게 구글 제미나이 AI가 논란의 중심에서 불타고 있을 때 UX 디자이너는 결국 터질 것이 터졌다는 의견을 내보이고 있다. 그렇다면 이번 구글 제미나이 AI는 어떤 사용성 문제가 있었던 것일까? 이번 글에서는 UX 디자인 관점에서 구글 제미나이 AI 논란을 다뤄본다.
출시 전 테스트가 부족했던 구글
이번 구글 제미나이 논란에서 가장 많은 지적은 “제대로 테스트도 안 해보고 출시한 것이냐?”라는 질문이었다. UI·UX 디자인 과정에서 개발만큼이나 중요한 것 중 하나는 테스트다.
대표적으로 디지털 소프트웨어 업체 어도비는 “훌륭한 UX는 디자이너뿐만 아니라 개발자, 사용자는 물론 각종 이해관계자가 협업해야지만 나올 수 있다”라며 가능한 많은 사람들과 협업해 테스트 및 검증 과정을 거치라고 UX 디자이너들에게 충고하고 있다.
하지만 이런 교육 기관과 업체들의 끝없는 테스트 강조에도 불구하고도 많은 제품 서비스가 제대로 테스트를 거치지 않고 출시되는 것이 실상이다. 테스트 과정은 번거로우며 적지 않은 시간과 비용이 들어가기 때문이다. 그리고 이번 구글 제미나이 AI 역시 같은 실수를 반복했다.
실제로 29일 순다르 CEO는 “초기 단계에서는 어떤 AI도 완벽하지 않지만, 우리는 기준이 높다는 것을 안다”라고 말하면서 제미나이가 초기 단계이기 때문에 테스트 및 개발 과정에서 실수가 있음을 시인했다. 구글 스스로의 위치와 자사 서비스의 영향력을 망각한 것이다.
결과를 예측하기 힘들었던 사용자
제미나이 사태가 생성형 AI의 고질적인 문제의 연장선상에 위치해 있다는 시각도 존재한다. 요컨대 제미나이 사태는 구글만의 문제가 아니며, AI 업계 모두가 해결하지 못하고 있는 프롬프트 예측성과 결과물 통제성 부족 등이 맞물린 생성형 AI의 공통적인 문제라는 것이 이들의 주장이다.
실제로 지난해 생성형 AI 열풍 이후 1년이라는 시간이 흐른 지금도 많은 생성형 AI가 결과물을 제대로 예측할 수 없는 것이 대부분이다. 특히 AI가 아무 말이나 그럴듯하게 지어내는 ‘할루시네이션’ 현상은 텍스트 기반 챗봇 AI에 있어서 계속 골칫거리로 남아있다.
심지어 이런 결과물 통제성과 예측성 부족은 여러 UX 디자이너를 비롯한 전 세계의 전문가가 지속적으로 경고해온 문제다. 지속적으로 AI의 사용성에 대해 경고를 해온 대표적인 인물 중 하나는 다수의 디자인 서적을 발간한 저자이자 빅 미디엄의 창립자 조시 클라크다.
그는 2017년부터 지속적으로 “AI 초기 단계인 현시점에서 다루어야 할 가장 중요한 문제는 사용자가 적절한 답변 예측을 할 수 있는 UX 디자인을 마련하는 것”이라며 “답변 내용이 틀리거나, 사용자가 예측하지 않은 답변이 제공된다면 디자이너의 의도에 벗어나 사용자의 불만이 높아지고 경우에 따라 손해로 이어질 수 있다”고 덧붙였다. 그리고 그의 경고는 2024년 마치 예언처럼 현실로 다가왔다.
실제로 구글은 상술했듯이 20일 만에 이미지 생성 기능을 임시 중단하면서 700억 달러 이상의 시가 총액이 증발했다. 심지어 AI 시대 순다르 피차이 CEO의 역량에 대한 불신과 사퇴 요구의 목소리 이야기까지 나오고 있다.
정치적 올바름을 중시했던 개발자들
이번 제미나이 사태가 UX 디자인 중 ‘윤리성’에 대한 고려가 부족했다는 시각도 존재한다. 이들은 구글 제미나이가 무조건적인 인종적 다양성을 최우선으로 설정한 나머지 사용자의 의도 및 배경에 대한 고려가 부족했다 말하고 있다.
대표적으로 조이 클라인먼 BBC 테크 에디터는 “구글은 너무나도 정치적인 올바름을 추구한 나머지 결국 터무니없는 결과를 초래한 것이다”라고 말하면서 구글의 편향된 데이터 수집 및 학습을 꼬집었다.
그리고 실제로 구글은 “우리는 제미나이가 다양한 범주의 사람들을 보여주게끔 노력했다. 하지만 우리는 다양한 사람들을 보여줘서는 안되는 상황을 미처 고려하지 못했다”고 털어놓았다.
UX 디자인에서 윤리성이란 단순히 사용하기 편한 것을 넘어 개인정보 보호, 공정성 등을 고려해 디자인하는 것을 말한다. 보통 UX 디자인에 있어서 가장 중요한 것이 사용성이라 생각할 수 있지만, 현재 UX 디자인에서는 ‘윤리성’도 중요 고려 요소로 부상한 상태다.
UX 디자인에 대한 필요성과 인식이 높아짐에 따라 UX 디자이너들의 활동 및 업무 분야도 더 넓어졌기 때문이다. 특히나 UX 디자인의 윤리성은 AI 및 AI 사용 제품 서비스가 급부상하고 이에 따라 각종 사건사고들이 나타남에 따라 AI에 UX 디자인이 필요하다는 의견이 힘을 얻고 있다.
실제로 이번 사태에 대해 UX 전문가이자 인간공학 기술사인 오의택 인사이터는 “이런 문제를 개선하기 위해서는 단순히 양질의 데이터로 학습하는 것뿐만 아니라, 질문 의도나 맥락에 따라 윤리적 가치 기준의 우선순위 설정하는 전략이 필요할 것”이라고 말하면서 AI의 윤리적인 UX 디자인 필요성을 강조했다.
AI에도 UX가 필요하다
결국 이야기를 종합해 보면 이번 구글 제미나이 사태는 UX 디자이너를 포함한 많은 전문가들의 충고를 무시한 결과였다. 그리고 동시에 이번 사태는 AI에도 UX 디자인이 필요한 대표적인 사례이기도 했다.
작년 전 세계적인 AI 열풍 이후 UX 디자인 업계에도 AI를 사용하자는 의견이 많이 나오고 있다. AI의 발전으로 인해 UX 디자이너가 일자리를 잃을 것이라는 우려도 적지 않았다. 하지만 현실은 오히려 AI 서비스 및 제품에 UX 디자인 작업과 UX 디자이너가 필요하다는 이야기가 나오고 있다.
실제로 앱 검색 마케팅 기업 앱마스터는 공식 블로그를 통해 “AI의 힘이 커질수록 AI의 궁극적인 성공은 기술적 정교함뿐만 아니라 사용자의 요구와 행동에 공감하고 적응하는 사용자 중심 디자인에 달려 있다는 것이 점점 더 분명해지고 있다”는 분석을 내놓기도 했다.
결국 앞선 많은 제품 서비스 디자인 사례처럼 AI 시장에도 단순 기술적인 완성도 뿐만 아니라 사용자에게 편리하고 윤리적인 경험을 제공하는 UX 디자인이 필요한 시기가 찾아온 것이다.
