디자이너의 딜레마: 진정 사용자를 위한 디자인은 무엇일까?
긍정적인 경험을 제공하면서도 윤리적인 책임을 다하기 위한 디자인 고민
“이번 학회의 많은 발표가 인공지능 AI에 관한 것이고, 많은 분들의 관심 역시 AI를 어떻게 활용할 수 있는가에 초점이 맞춰져 있습니다만, 오늘 전 이런 관심사에 반하는 좀 다른 측면의 이야기를 나눠볼 겁니다”
10일, 강원도 홍천 소노벨 비발디파크에서 열린 HCI KOREA 2025의 튜토리얼 강연은 HCI 관련 학계와 업계의 전문가들이 최신 트렌드를 반영해 업계에 새로운 화두를 던지고, 의견과 문제 해결 기법, 연구 사례 등을 공유하는 자리다.
그중 윤재영 홍익대학교 교수의 강연 ‘인공지능과 사람, 그리고 디자인 딜레마’는 다양한 인공지능(AI) 관련 발표가 이뤄지고 있는 와중에도 AI 시대에 기술 및 디자인 발전이 불러온 윤리적 문제인 ‘디자인 트랩’의 딜레마를 고민해야 한다고 강조해 많은 참관객들의 이목을 집중시켰다.
“디자인은 기업과 서비스 제공자에게 수익과 사용자 참여를 이끌어내는 수단이 될 수 있지만, 동시에 사용자의 자율성을 침해하고 신체적·정신적 건강에 부정적인 영향을 미칠 수 있습니다. 이게 디자인 트랩의 딜레마입니다”
이날 윤재영 교수는 강연의 서두부터 자신이 직접 경험한 구독료 상승 안내 이메일을 사례로 들면서 기업의 수익과 사용자 참여를 높이지만 사용자에게 건강·금전 관련 손해를 입힐 수 있는 디자인 트랩의 대표격 ‘다크패턴’의 위험성을 설명했다.
사례는 명확했다. 이메일 제목은 서비스 업데이트라는 단어를 사용해 구독료 상승에 대한 언급을 피하는 동시에 관련 공지로 오해할 수 있도록 위장했고, 메일 본문 역시 관련해 직접 회신하지 않으면 사용자는 자동으로 가격 인상에 동의하는 것으로 간주돼 있었다.
이어 윤 교수는 “무한 스크롤링, 자동 재생 콘텐츠, 좋아요 시스템, 구독과 공유 기능 등과 치밀하게 설계된 보상 기능은 사용자들의 편의를 위한 것처럼 보이지만 이 기능들 때문에 사용자들이 SNS에서 쉽게 삐져나오지 못하고 있다”면서 SNS 서비스의 디자인 트랩이 사용자에게 미치는 영향도 경고했다.
또한 그는 “미성년자나 노약자 등 취약한 사용자가 SNS에 과의존하며 집중력 부족, 수면 장애, 사회적 고립, 감정 조절 문제를 겪는 사례가 점점 늘고 있다”며 뉴욕을 비롯한 여러 해외 주요 도시들이 SNS 플랫폼 기업들에 소송을 제기하며 이러한 위험을 공론화하고 있는 점과 SNS 플랫폼들이 책임을 회피하고 있는 논리도 함께 언급했다.
“뉴욕을 비롯해서 세계 대도시 여러 군데서 SNS 플랫폼 기업들을 상대로 소송을 제기했어요. 도시 쪽은 SNS 플랫폼 기능 디자인이 사용자들의 정신 건강을 해치고 도시에 막대한 비용과 피해를 입히고 있다고 주장합니다.
하지만 SNS 기업들은 “우리가 하는 일은 설탕을 만드는 것과 같다. 설탕을 많이 먹으면 당연히 해롭지만 설탕을 못 만들게 하지는 않는다. 소비자가 절제해야 한다. 이런 논리를 내보이며 동의하지 않고 있어요”
그는 AI와의 정서적 교류 현상도 주목할 만한 주요 이슈로 지적했다. 윤 교수는 인공지능과 연애하거나 정서적 의존을 형성하는 사람들이 늘어나고 있는 현황과 함께 “챗봇 등 AI가 사용자의 정서 위로에 도움을 줄 수 있지만, 이로 인해 진짜 인간 관계를 멀리하게 되는 역설적 상황이 발생한다는 점에서 디자이너는 AI 의인화 디자인이 사용자에게 미칠 영향을 진지하게 고민할 필요가 있다”고 말했다.
강연 중반부에서 윤 교수는 고인을 AI 기술 데이터로 재현한 ‘고인 AI’도 언급했다. <너를 만났다> 다큐멘터리와 고인의 음성과 모습을 재현하는 여러 AI 서비스가 주요 예시였다. 윤 교수는 이런 기술이 유족들에게 정서적 위로를 제공할 수 있지만, 동시에 상실의 아픔을 지속시킬 위험성도 있다는 점에서 조심스러워야 한다고 말했다.
아울러 윤 교수는 4주간의 심리 치료 프로그램 영상 ‘마지막 인사’를 예로 들며 고인 AI가 치료 목적으로 사용된다면 긍정적인 효과를 낼 수 있다며 고인 AI의 모범적이고 윤리적인 사용 방안을 제시했다.
“심리 치료 프로그램 영상에서 보여준 고인 AI는 앞선 사례들과 비교해보면 비슷해보이지만 굉장히 큰 차이점이 있습니다. 마지막 인사의 AI는 고인과의 마지막 작별을 위해 만들었고, 앞선 사례들은 고인과 끊임없이 연결시키는 디자인을 만든 점이죠”
윤 교수는 단순히 문제 지적을 넘어 딜레마에 고민하는 디자이너들을 위한 조언도 빠트리지 않았다. 강연 후반 그는 디자인 트랩을 해결하기 위한 구체적인 방안으로 사용자가 위험 상황에 빠질 가능성이 있을 때 의도적으로 사용 경험에 마찰을 발생시켜 행동을 재고하게 만드는 ‘디자인 프릭션’을 해결책으로 제시했다.
이날 윤 교수는 유명 디자인 프릭션으로 장기간 사용자의 핸들 미사용이 지속 감지될 시 기능 제공 중단과 보험료 인상 패널티를 제공하는 ‘테슬라의 오토 파일럿’, 현실 세계와 게임 속 세계의 시간을 동기화해 사용자의 과도한 게임 사용을 방지하는 ‘닌텐도 동물의 숲 게임의 시간 연동 시스템’, 사용자가 비윤리적인 요청을 할 때 이를 거부하는 구글 제미나이와 클로드의 윤리적 방지턱 메시지 등을 언급했다.
강연 막바지 윤 교수는 학계와 정부 기관에서도 관련해 관심을 보이고 있는 현황과 함께 학회를 찾은 많은 업계 관계자와 학생들을 향해 디자인 딜레마 고민을 회피하지 말고, 바람직한 디자인은 무엇인지에 대해 함께 고민할 것을 권했다.
“학계나 정부 기관, 기업에서도 최근 이와 관련해 많은 관심을 보여주고 있고, 지금 디자인 가이드라인 재정에 대한 협업 이야기도 본격적으로 나오고 있는 중입니다. 관련해 성과가 나오게 되면 내년 이 자리에서 또 소개해 드릴 기회가 있으면 좋겠습니다.”
