겉모습에 속지 마라? AI 에이전트가 ‘귀여움’으로 무장한 까닭
메타·오픈AI·카카오 AI ‘큐트워싱’ 논란
구글 검색 선호 매체로 추가
메타가 지난 9월 8일 개인 AI 에이전트 ‘뮤즈(Muse)’를 공개했습니다. 3주 뒤인 9월 29일 오픈AI가 ‘닷츠(dots)’를 내놨고요. 10월 13일 국내에서는 카카오가 ‘카나나 스페이스(Kanana Space)’를 선보였습니다. 한 달여 새 잇달아 등장한 AI 에이전트들은 질문에 답하는 데 그치지 않습니다. 사용자 곁에 머물며 대신 일을 처리합니다.
그런데 이 에이전트들, 하나같이 너무 귀엽습니다. 뮤즈는 통통한 몸매를 가진 털복숭이 ‘졸리’를, 닷츠는 선글라스나 나비 넥타이를 걸친 말랑이 같은 캐릭터들을, 카나나 스페이스는 카카오의 대표 캐릭터 ‘라이언’을 앞세웠습니다.
하지만 이들이 가진 능력과 권한은 전혀 귀엽지 않죠. 사용자 데이터에 접근해 대신 이메일을 읽거나, 메시지를 보내고, 결제까지 할 수 있으니까요. 전문가와 소비자단체 사이에서 ‘큐트워싱(Cutewashing)’ 비판이 나오는 이유입니다. 이들을 정말 귀여워해도 되는 걸까요? 귀여운 AI 에이전트 마스코트의 등장과 숨은 전략, 이를 둘러싼 논란을 알아봤습니다.
귀여운 AI 에이전트의 등장
가장 먼저 등장한 메타의 ‘뮤즈’부터 볼까요? 뮤즈의 기본 마스코트 ‘졸리(Jolly)’는 크림색의 둥근 얼굴과 통통한 몸통을 가진 봉제 인형 같은 모습입니다. 발그레한 볼에, 몸 전체를 둘러싼 복슬복슬한 털이 특징이고요. 양손은 마치 손모아장갑을 낀 듯한 형태죠. 이 캐릭터는 개인 커스텀도 가능한데요. 사용자는 이름과 옷차림 등을 원하는 대로 바꿀 수 있습니다. 로마 장군 ‘아그리파’의 이름을 빌린 마크 저커버그 메타 CEO의 캐릭터는 토가를 입고 월계관을 쓰고 있죠.
오픈AI ‘닷츠’는 이름처럼 동글동글한 점 모양의 캐릭터들입니다. 이기(Iggy), 펠리페(Felipe), 토드(Todd), 알프레드(Alfred), 조조(Jojo)까지 총 5종이고요. 분홍, 파랑, 노랑 등 밝은 네온 색상에 코와 입 없이 눈만 있는 단순한 형태입니다. 선글라스나 나비 넥타이, 베레모 같은 소품으로 개성을 더했고요. 사용자는 닷에 이름을 붙이고 모양을 고르며 ‘나만의 닷’으로 만들 수도 있습니다.
카카오는 새 캐릭터를 만드는 대신 대표 IP ‘라이언’을 내세웠습니다. 갈기 없는 수사자에 짙은 눈썹, 둥근 얼굴로 익숙한 그 캐릭터입니다. 카카오톡용 AI 어시스턴트 ‘카나나 스페이스’를 불러오기 위해 카카오톡 화면을 두 손가락으로 쓸면 라이언이 나타나는데요. 라이언은 음성과 텍스트로 사용자를 응대할 수 있죠. 2016년 데뷔한 라이언이 10년 만에 공식적으로 자기 목소리를 갖게 된 셈입니다. 카카오는 라이언에 이어 다른 IP 캐릭터도 AI 에이전트상에서 선보일 계획이라고 합니다.
전부 귀엽습니다. 마치 애니메이션 주인공 같군요. 하지만 이들은 장난감이 아닙니다. AI 에이전트의 얼굴입니다. 메타가 뮤즈를 ‘개인 초지능(Personal superintelligence)’을 향한 첫걸음이라고 부를 만큼, 이 에이전트들은 고도화된 성능을 갖추고 있습니다.
뮤즈는 자체 브라우저로 이메일 발송, 여행 예약, 양식 작성, 가격 협상까지 처리합니다. 앱을 닫아도 계속 작업하고, 결제는 금융 플랫폼 스트라이프(Stripe)의 결제 서비스 ‘링크’를 통해 직접 진행하죠. 닷츠 역시 자체 클라우드 컴퓨터와 브라우저는 물론 사용자가 연결한 4000여 개 앱을 활용해 24시간 일합니다. 12월부터 비공개 베타 테스트에 들어가는 카나나 스페이스는 메시지 전송, 일정 관리, 웹 검색, 카카오톡 설정 변경 등을 대신 처리합니다. 나아가 카카오는 주문, 선물, 예약, 송금까지 말 한마디로 실행하도록 기능을 넓힐 방침입니다.
사용자의 일상·업무 환경에 상주하며 대신 일하는 AI 에이전트의 시대가 본격적으로 문을 연 셈인데, 이를 내놓은 빅테크 기업들은 모두 에이전트 위에 귀여운 캐릭터를 입혔습니다. 과연 우연일까요?
카카오, 첫 PC용 AI 에이전트 ‘칸바스’ 공개
이르면 연내 베타 테스트
“해치지 않아요” 에이전트의 전략적 귀여움
생각해보면 챗GPT, 제미나이, 클로드 등 기존 AI 챗봇의 이미지는 기하학적이고 추상적인 로고로 대표됐습니다. 챗GPT 로고는 꽃과 매듭을, 제미나이는 반짝이는 별을, 클로드는 사방으로 뿜어져 나오는 스파크를 닮았죠. 그런데 에이전트 단계에 와서 빅테크들은 일제히 귀여운 캐릭터를 꺼내들었습니다.
실마리는 ‘상시 구동’에 있습니다. AI 에이전트라도 전부 마스코트 캐릭터가 있는 것은 아닙니다. 작업 단위로 쓰이는 개발 에이전트 코덱스(Codex), 커서(Cursor)에는 캐릭터가 없죠. 반면 캐릭터가 있는 뮤즈, 닷츠, 그리고 카나나 스페이스는 사용자 곁에서 언제나 작동할 수 있는 상시 구동형 에이전트입니다. 그만큼 사용자의 전산상 행동은 늘 이들에게 열려 있는 셈인데요.
안광섭 세종대 겸임교수는 <디지털 인사이트>의 질의에 “상시 구동형 에이전트는 늘 사용자의 메일과 메시지, 컴퓨터상의 행동을 보고 있다”며 “즉 감시하고 있다는 전제를 최대한 뭉개야 한다. 그러려면 플러피(Fluffy)한 느낌을 주거나 2등신 캐릭터를 활용해 귀엽게 다가가는 방법밖에 없다”고 설명했습니다.
이어 “개발 도구는 전문성을 내세워야 하기 때문에 세련되고 미래지향적인 ‘도구’ 느낌을 줘야하지만, 닷츠나 뮤즈 등은 일상에서 사용돼야 하니 대중적 친밀감을 유도하기 위해 이런 전략을 취한 것”이라고 짚었습니다.
다시 말해, 뮤즈, 닷츠, 카나나 스페이스와 같은 상시 구동형 에이전트는 사용자가 ‘감시당한다’는 인상을 받지 않도록, 귀엽게 보이는 전략을 택할 수밖에 없다는 것입니다. 에이전트와 일상을 공유하고, 일을 맡기는 것에 대한 불신이 여전히 팽배한 현 상황에서는 더욱 그렇죠.
이는 마케팅에서 흔히 활용되는 ‘킨첸스키마(Kindchenschema, 아기 도식)’ 기법입니다. 동물이나 사람의 아기에게서 볼 수 있는 신체적 특징으로 인간의 선천적인 양육 본능과 보호 욕구를 자극해 호감과 인지도를 높이는 효과입니다. 몸에 비해 지나치게 큰 머리, 둥글고 큰 눈, 짧고 통통한 사지와 부드러운 몸매가 특징인데요. 졸리와 닷츠의 다섯 캐릭터, 라이언이 딱 여기 부합하죠.
글로벌 봉제 인형 브랜드 스퀴셔블(Squishable)의 조이 프레이드-블래너 최고크리에이티브책임자(CCO)는 뮤즈 졸리의 아기 같은 디자인을 두고 “아기나 아기 같은 특성을 지닌 존재에게는 가르침을 받을 수 없다”며 “‘이건 함께 하는 거야’라고 느끼기가 훨씬 쉽다”고 말했는데요. 특히 손모아장갑을 낀 듯한 졸리의 손에 대해 “손이 너무 크고 둔해서 혼자서는 아무것도 할 수 없다는 사실 자체가 ‘당신이 주도권을 갖고 있어요. 당신 허락 없이는 아무것도 안 할게요. 저는 그냥 아기예요. 당신 도움이 필요해요’라는 메시지를 보낸다”고 설명했습니다.
그는 안경에 나비 넥타이를 맨 닷츠의 알프레드 캐릭터에 대해서는 “‘저는 당신을 섬기고 돕기 위해 여기 있어요. 당신이 주인이에요. 당신은 고용주고 저는 집사일 뿐이에요’라는 콘셉트에 기대고 있다”고 분석했습니다.
아기 디자인이든 말랑이 집사 디자인이든 이 캐릭터들이 전하는 메시지는 비슷합니다. “에이전트의 주도권은 당신에게 있어요. 우리는 당신이 시키는 대로 움직입니다”같은 것이죠. 이처럼 캐릭터의 귀여움은 AI 에이전트를 향한 사람들의 경계심, 공포, 불안을 누그러뜨리는 전략적 포장지 역할을 합니다. 메일함과 결제창에 접근해도 문제 없는 무해한 AI 비서로 느끼게끔 말이죠.
귀여움이 가리는 것
귀여움 전략은 일단 통하는 듯 보입니다. 뮤즈의 졸리는 공개 직후부터 엑스(옛 트위터)에서 밈으로 퍼져 나갔고, 메타도 이를 적극 활용하고 있는데요. 알렉산더 왕 메타 최고AI책임자는 엑스에 졸리 이미지가 담긴 게시물을 반복적으로 올리며 밈 확산에 앞장서고 있습니다. 뿐만 아니라 쇼피파이, 페이팔, 익스피디아 등 뮤즈와 손잡고 서비스를 연동하는 기업들 또한 졸리 이미지에 자신들의 로고를 합성하며 흐름에 가세했습니다.
이와 맞물려 실제 흥행도 거셉니다. 앱 분석 업체 앱토피아(Apptopia)에 따르면, 뮤즈는 출시 12일 만에 미국 내 일간활성이용자(DAU) 64만 명을 넘어섰고요. 미국 애플 앱스토어에서는 챗GPT를 꺾고 1위에 오르기도 했습니다.
하지만 ‘큐트워싱’을 주의해야 한다는 경고도 나옵니다. 귀여운 캐릭터에 현혹돼 에이전트가 가진 강력한 능력과 권한을 간과해서는 안 된다는 것이죠.
펜실베이니아 주립대 사회적 책임 있는 인공지능 센터(CSRAI) 소장인 S. 샴 순다르 교수는 “AI 에이전트 마스코트의 귀여운 디자인은 사용자들이 마치 사랑하는 애완동물에게 더 긴 목줄을 해주는 것처럼 생각하게 만든다“라며 “개인 정보와 사적인 데이터를 쉽게 넘겨주도록 유도할 수 있다”고 지적했는데요. 그러면서 “실제로 이 애완동물 같은 에이전트는 사용자의 데이터를 맹렬하게 수집하고, 사용자에게 보이지 않는 다른 여러 에이전트들과 상호작용하며 할당된 작업을 수행한다”고 꼬집었습니다.
글로벌 기술 전문 매체 엔가젯(Engadget)은 “귀여운 겉모습 뒤에는 사용자의 개인정보를 반복적으로 침해해 온 회사가 있다”며 “최근의 일들은 에이전트가 놀라울 만큼 창의적인 방식으로 혼란을 일으키는 데 능하다는 것을 보여줬다. 우리 일상에서 그럴 힘을 너무 성급하게 넘겨서는 안 된다”고 목소리를 높였고요.
미국소비자연맹(CFA) 또한 지난 13일(현지 시간) ‘아무리 귀엽게 생겼더라도, AI 에이전트는 당신의 친구가 아닙니다(No Matter How Cute They Look, AI Agents Are Not Your Friends)’라는 제목의 글을 통해 에이전트를 출시한 빅테크 기업들이 더 많은 데이터와 권한을 얻으면서도 책임은 사용자에게 떠넘기고 있다고 강도 높게 비판했습니다.
실제 뮤즈 약관을 보면, 사용자는 뮤즈 사용으로 인해 발생하는 금전적 손실을 전적으로 부담해야 하며, 거래 한도 설정·계좌 모니터링·오류 이의 제기 등 역시 사용자의 몫이라고 명시돼 있습니다. 메타가 지는 배상 책임은 250달러 또는 가장 최근 청구의 원인이 발생하기 전 12개월간 사용자가 낸 이용료 중 더 큰 금액을 넘지 않도록 제한되죠. 졸리를 마냥 귀여워할 수만 없는 내용입니다.
물론 기업들도 안전장치를 내세웁니다. 메타는 이메일 전송이나 구매 전 사용자 승인을, 오픈AI는 비밀번호 변경과 같은 일부 민감한 작업의 사용자 직접 수행을 원칙으로 내걸었고, 카카오 역시 결제 등 중요 행동은 사용자가 최종 승인하는 구조라고 밝혔습니다.
“동의 없이 집 주소 알려줬다” 메타 AI 에이전트 뮤즈 논란
거래 과정서 개인정보 유출됐다는 주장 나와
신뢰를 디자인해야
그렇다고 하더라도 귀여운 마스코트 캐릭터가 AI 에이전트에 대한 경계를 낮출 것이라는 우려가 해소되지는 않습니다. 앞서 언급한 프레이드-블래너 스퀴셔블 CCO는 “귀여운 마스코트를 붙인다고 해서 그것이 하는 일이 달라지지는 않는다. 허리케인에 이름을 붙인다고 허리케인의 위력이 달라지지 않는 것과 같다”며 “하지만 우리가 반응하는 방식은 달라진다. 아기를 무서워할 필요는 없으니까”라고 꼬집었죠.
메타와 오픈AI, 카카오까지 저마다 최신 AI 에이전트를 귀여운 캐릭터로 포장해 내놓고 있습니다. 하지만 캐릭터를 입혔다고 에이전트가 정말 귀여워지는 것은 아닙니다. 가진 능력과 권한이 약해지는 것도 아니고요. 귀엽고 친근한 이미지만 앞세운다면, 오히려 위험을 희석한다는 ‘워싱’ 비판을 피하기 어렵습니다.
결국 AI 에이전트 디자인에 필요한 것은 ‘신뢰’입니다. 금융기관용 AI 플랫폼 헤비아(Hebbia)의 헤드 디자이너 아르준 마헤시의 말이 참고할 만합니다. 그는 최근 AI 어시스턴트 ‘맥스(Max)’를 디자인했는데요. 귀여움은 찾아볼 수 없는 모듈형 금속 로봇 같은 모습입니다. 반려동물이나 사람처럼 보이기보다, 신뢰할 수 있는 도구로 인식되는 데 초점을 맞췄다는 설명입니다.
맥스가 사용자 곁에 남는 이유가 다마고치처럼 눈을 깜빡이며 ‘밥 안 주면 미안해질 거야’ 하고 죄책감을 자극해서가 아니라, 믿을 수 있고 제대로 작동하기 때문이었으면 한다.
메타 뮤즈로 살펴본 AI 에이전트 경험 디자인
AI 챗봇과 설계부터 다르다
커머스 미디어 시동 거는 맥도날드, 소비자들은 왜 뿔났을까?
관건은 CX… 국내 광고계가 본 연착륙 조건
뉴스콘텐츠는 저작권법 제7조 규정된 단서조항을 제외한 저작물로서 저작권법의 보호대상입니다. 본 기사를 개인블로그 및 홈페이지, 카페 등에 게재(링크)를 원하시는 분은 반드시 기사의 출처(로고)를 붙여주시기 바랍니다. 영리를 목적으로 하지 않더라도 출처 없이 본 기사를 재편집해 올린 해당 미디어에 대해서는 합법적인 절차(지적재산권법)에 따라 그 책임을 묻게 되며, 이에 따른 불이익은 책임지지 않습니다.
- 에디터최석영 (csyeong720@ditoday.com)
