UX & Design

디자인 윤리를 실무에서 검증할 수 있을까?

Q. 실무 디자인에서 디자인 윤리를 검증할 수 있을까요?

위 물음은 제가 디자인 윤리 커뮤니티를 운영하며 가장 많이 받는 질문입니다. 돌이켜 보면 저는 이 질문에 대답을 머뭇거리거나 회피하곤 했습니다. 사례가 없진 않지만, 표본으로 삼을만한 사례를 찾기가 쉽지 않았기 때문입니다. 구글의 전 디자인 윤리학자인 트리스탄 해리스가 이끄는 ‘Center for Humane Technology’에서 제공하는 몇 가지 원칙이 있긴 하지만, 실무에 적용하기에는 다소 추상적인 느낌이 있었습니다. 저는 Microsoft 파트너 이사인 미라 레인(Mira Lane) 블로그에서 디자인 윤리를 실무에 적용할 수 있는 개념을 발견했습니다. 그중 Judgement Call이라는 팀 기반 활동을 중심으로 디자인 윤리의 현실적인 적용방법을 알아보도록 하겠습니다.


현실적으로 디자인 윤리 검증에 대한 필요성을 조직 내에 설득하기 위해서는 다음 두 가지 중 하나는 통과돼야 합니다. 이는 생존이 걸린 조직이라면 더 어려운 선택일 수 있습니다.

1) 디자인 윤리에 대한 검증이 회사 매출에 영향을 끼치지 않을 것.
2) 만약 매출에 영향을 끼친다 하더라도 ‘서비스 신뢰’나 ‘제작자가 가지는 책임감’처럼 수치화할 수 없는 보상이 생길 것.

만약 어떤 서비스가 UI에 과도한 넛지를 적용해 매출을 내고 있어도 법적으로는 문제가 없을 겁니다. 이는 윤리적인 사람도 충분히 빠질 수 있는 딜레마라고 생각합니다. 미라 레인(Mira Lane)은 다음과 같은 의미심장한 말을 남겼습니다.

‘윤리는 혁신의 재료일 수 있다. 생각의 다양성은 제품 팀이 다른 차원으로 도약하는 데 매우 중요하다.’

저는 이 글을 읽고 다음과 같은 물음이 들었습니다. “제품에서 윤리가 혁신을 만들어낼 수 있을까?”

[미라 레인 블로그]

Judgement Call이란?

미라 레인은 자신의 블로그에 Microsoft 내에서 AI 기술을 개발하며 얻은 학습을 기반으로 한 ‘Responsible Innovation Practices Toolkit’을 공개했습니다. 툴 킷에는 몇 가지 방법론이 포함됐지만, 저는 Judgement Call이라는 게임에서 실무 시 윤리적 검증에 대한 가능성을 확인했습니다.지금부터 Judgement Call에 대해 알아보겠습니다.

Judgement Call은 Microsoft가 제공하는 윤리 원칙을 실행하는 팀 기반 활동입니다. 표면적으로는 카드가 존재하는 ‘TRPG 게임’ 형식을 띠고 있습니다. 테이블탑 롤플레잉 게임이라고도 하는데 보드게임처럼 오프라인상에서 사람들이 테이블에 모여 앉아, 대화를 통해 진행하고 또 각자가 분담된 역할을 연기하는(Role Playing) 형식입니다. (아래 사이트에서 Judgement Call을 프린팅 할 수 있는 PDF를 다운받을 수 있습니다.)

[Judgement Call 관련 사이트]

▲사이트에서 툴킷을 다운받아 만들어보는 모습

게임은 1~10명의 플레이어가 참여할 수 있고, 시간은 60~90분 정도로 제한합니다. Judgement Call의 최종 목표는 ‘이해관계자의 관점’에서 제품 리뷰를 작성하는 것입니다. 그리고 우리가 서비스하는 기술이 가진 잠재적인 사회적 영향과 숨겨진 피해 가능성에 대해 논의하고 해결책까지 모색합니다. 미라 레인은 이 게임을 통해 기술을 만드는 사람들이 윤리적 상상력을 발휘하는 방법을 연습하는 데 많은 도움을 받을 수 있다고 강조합니다. 이를 피해 모델링 즉, ‘실제 윤리적 영향력을 상상하는 연습’이라고 표현하기도 합니다. 아래는 이해를 돕기 위한 유튜브 영상입니다.

▲Judgement Call 설명 영상


게임의 룰

1) 진행자를 선정합니다. 진행자는 그룹 토론을 진행하고 의견을 취합하는 일을 합니다.
2) 제품 시나리오를 만듭니다. 이 단계에서 다음과 같은 측면이 고려됩니다.

누가 제품을 사용하나요?
제품에는 어떤 기능이 포함되나요?
언제 사용되나요?
제품은 주로 어디에서 사용되나요?
실제로 유용한가요?
제품을 어떻게 사용하실 건가요?

3) 이제 이해당사자를 확인합니다. 이는 우리가 만든 제품이나 서비스에 영향받는 사람들을 말합니다. 화이트보드에 가장 영향받을 수 있는 이해관계자 리스트를 작성합니다. 목록이 완성되면 상위 10위를 결정해 이해당사자 카드에 적용합니다. 그리고 이를 섞습니다. 이해관계자 리스트는 아래와 같이 나올 수 있습니다.

몸이 불편한 사람
교수
소수민족
가정폭력 피해자
노인
이동 근무자
멸종위기종
어린이
빈곤층 가정

4) Microsoft가 정의한 윤리 원칙이 쓰인 카드에는 다음과 같은 가치들이 포함됩니다. 이를 이해당사자 카드와 비교해 작성합니다.

공정성(Fairness)
개인 정보 보호 및 보안(Privacy & Security)
신뢰성 및 안전(Reliability)
투명성(Transparency)
포용성(Inclusion)
책임성(Accountability)

▲Microsoft 사의 6가지 윤리적 원칙

5) 마지막 등급 카드로 윤리에 대한 점수를 매깁니다. 별 1개는 나쁨, 별 3개는 보통, 별 5개는 좋음을 뜻합니다. 아래는 예시로 작성해본 리뷰입니다. 저는 긱 이코노미 서비스와 노동자 사이의 공정성에 대해 생각해봤습니다.

6) 이후 플레이어에게 각 카드를 제공하고 10분에 걸쳐 리뷰를 작성하게 됩니다. 좋은 리뷰를 쓸 수 있는 팁도 제공되는데 다음과 같습니다.

내가 아닌 이해관계자의 입장에서 최대한 바라보기
기능에 대해 최대한 구체적으로 설명하기
많은 고민하지 않고 직관적으로 표현하기

7) 게임에 참여한 플레이어들과 토론할 시간입니다. 진행자를 중심으로 잠재적인 문제들을 밝히고 탐색하는 과정을 거치는데, Judgement Call에서는 아래 네 가지 사항을 중심으로 보라고 조언합니다.

어떤 이해관계자에게 가장 큰 타격이 있을까요?
어떤 기능이 문제인가요?
잠재적인 문제가 무엇일까요?
반복되는 문제가 있었나요?

8) 토론에서 눈에 띄는 이해관계자와 특징 그리고 위험성을 이해합니다. 그리고 이러한 문제를 방지하기 위해 기술 및 사회적 차원의 해결책에 대해 논의하는 시간을 갖습니다.

9) Judgement Call

여기까지 다양한 관점으로 숨은 윤리적 위험성을 살펴봤습니다. 이제는 판단을 내릴 시간입니다. 우리가 한 발 더 나은 제품을 만들기 위한 해결책은 무엇입니까?

커뮤니티 배심원(Community Jury)

앞서 말한 ‘Responsible Innovation Practices Toolkit’에는 Judgement Call 외에도 ‘커뮤니티 배심원’에 대한 가이드라인도 소개가 돼있습니다. 커뮤니티 배심원이 서비스를 만드는 데 필요한 이유를 아래 문장으로 대신하며 글을 마칠까 합니다.

자동차 안전 설계자나 엔지니어가 아무리 뛰어나더라도 30명의 아이들 안전을 책임지는 스쿨버스 운전사의 윤리적 무게를 결코 느끼지 못할 겁니다.

어떤가요? 위 게임을 디자인뿐만이 아닌 어떤 영역이든, 실무에 적용한다면 윤리를 검증해볼 수 있지 않을까요? 윤리 검증이 필요한 순간에 이 게임을 떠올려보셨으면 좋겠습니다.

Comments
  • digitla-insight-202102-offline-ads-does-interactive
© DIGITAL iNSIGHT 디지털 인사이트. 무단전재 및 재배포 금지

뉴스콘텐츠는 저작권법 제7조 규정된 단서조항을 제외한 저작물로서 저작권법의 보호대상입니다. 본 기사를 개인블로그 및 홈페이지, 카페 등에 게재(링크)를 원하시는 분은 반드시 기사의 출처(로고)를 붙여주시기 바랍니다. 영리를 목적으로 하지 않더라도 출처 없이 본 기사를 재편집해 올린 해당 미디어에 대해서는 합법적인 절차(지적재산권법)에 따라 그 책임을 묻게 되며, 이에 따른 불이익은 책임지지 않습니다.

Related Posts