[인간 중심 AX ④] 기획자는 AX를 어떻게 기획해야 할까?
다시 던져야 할 인지공학적 질문
구글 검색 선호 매체로 추가[인간 중심 AX ①] AX는 업무 재설계다
AX에 대한 오해와 진실
[인간 중심 AX②] 인간과 AI의 업무를 구분하는 법
AX 시대 업무 재설계가 필요하다
[인간 중심 AX③] DX와 AX는 무엇이 다를까?
AX를 DX의 연장선상으로 보면 실패하는 이유
앞선 글들을 통해 AI 도입만으로 업무 생산성이 높아지지 않는다는 점, AX의 핵심은 자동화가 아니라 인간과 AI의 역할을 다시 나누는 일이라는 점, 그리고 DX와 AX는 바꾸려하는 대상부터 다르다는 점을 살펴보았다.
따라서 이제 남은 인간 중심 AX의 핵심 질문은 단순히 “어떤 AI 기능을 넣을 것인가”가 아니다. AI가 들어온 업무에서 인간은 무엇을 계속 판단해야 하는가, AI는 그 판단을 어떻게 도와야 하는가, 그리고 인간이 AI의 결과를 이해하고 개입하고 책임질 수 있도록 업무 시스템을 어떻게 기획·설계해야 하는지가 더 중요한 것이다.
이 질문은 낯설어 보이지만, 완전히 새로운 질문은 아니다. 인간과 기계가 함께 일하는 복잡한 환경에서 ‘인간의 판단을 어떻게 지원할 것인가?’는 이미 특정 분야에서 오래전부터 연구가 이뤄지고 있던 주제이기 때문이다. 그 분야가 바로 ‘인지공학’이다.
인지공학은 어떻게 탄생했을까?
인지공학이 중요해진 배경에는 복잡한 시스템에서 발생한 대형 사고들이 있다. 그중 대표적인 사건이 1979년 미국에서 발생한 스리마일섬 원자력 발전소 사고다. 해당 사고는 방사능 유출이 발생한 아주 심각한 사고 중의 하나다.
이 사고는 운전원의 실수로 인한 것이다. 그러나 사고 이후 진행된 조사와 분석은 더 중요한 사실을 발견했다. 단순히 운전원의 부주의나 비숙련의 문제가 아니라는 점이었다. 조사에 따르면 통제실의 계기와 경고, 표시 방식, 절차, 훈련, 시스템 상태를 이해할 수 있게 해주는 정보 구조가 모두 복잡하게 얽혀 있었다.
특히 압력 방출 밸브 표시등은 밸브가 실제로 닫혔는지를 보여준 것이 아니라, 밸브를 닫으라는 신호가 보내졌는지를 보여주고 있었다. 운전원은 표시를 보고 밸브가 닫혔다고 이해했지만, 실제 밸브는 열린 상태로 남아 있었다. 결국 운전원이 냉각수 유출을 정상 작동으로 오인하게 만들었고, 왜곡된 정보 전달 구조는 결국 운전원으로 하여금 비상 냉각장치를 수동으로 중단하는 결정적 착오를 범하게 만들었다.
이 지점이 중요하다. 당시 운전원들은 능력이 부족해서 실수한 것이 아니었다. 시스템이 실제 상태를 이해하기 어렵게 보여주었고, 경고와 계기 정보는 상황을 명확히 해석하기에 충분하지 않았다. 어떤 전문가라도 그런 정보 구조 안에서는 오판할 수 있었다.
해당 사고 이후 인지공학은 복잡한 시스템에서 인간이 왜 잘못 판단하는지, 그 실수가 개인의 부주의 때문인지 아니면 시스템이 만든 실수인지, 전문가도 실수할 수밖에 없는 상황을 만들지 않으려면 시스템이 어떻게 정보를 보여주고 판단을 도와야 하는지를 본격적으로 다루기 시작했다.
영화에서 비상 상황을 맞은 조종사가 두꺼운 항공기 매뉴얼이나 체크리스트를 꺼내 확인하는 장면을 본 적이 있을 것이다. 겉으로 보면 숙련된 조종사가 왜 매뉴얼을 보고 있는지 의아할 수 있다. 하지만 이것은 전문성 부족 문제가 아니다. 오히려 복잡하고 긴박한 상황에서 인간이 기억에만 의존하면 실수할 수 있기 때문에, 중요한 절차를 외부화한 것이다.
비상 매뉴얼과 체크리스트는 단순한 문서가 아니다. 인간의 의사결정을 돕는 인지적 장치다. 어떤 순서로 상황을 확인해야 하는지, 무엇을 먼저 차단해야 하는지, 어떤 조건에서 다음 조치로 넘어가야 하는지, 어떤 항목을 빠뜨리면 안 되는지를 구조화해준다. 숙련된 전문가라도 극도의 압박과 시간 제약 속에서는 중요한 단서를 놓칠 수 있기 때문에, 시스템은 인간의 기억과 주의력만 믿어서는 안 된다.
이 관점은 AX에도 그대로 적용할 수 있다. AI가 업무에 들어오면 시스템은 더 복잡해진다. AI가 예측하고, 추천하고, 요약하고, 우선순위를 바꾸고, 때로는 실행까지 한다. 인간은 그 결과를 보고 받아들일지, 의심할지, 수정할지, 중단할지 판단해야 한다.
따라서 AX 기획은 단순히 AI 결과를 보여주는 일이 아니다. 인간이 복잡한 상황에서 실수하지 않고 판단할 수 있도록 정보, 절차, 경고, 근거, 개입 지점을 설계하는 일이다. 바로 이 지점에서 오래된 인지공학의 질문이 다시 중요해진다.
인간-AI 역할 재설계를 위해 기획자가 던져야 할 질문들
AX를 단순히 AI 기능 도입으로 보면 질문은 비교적 기술 중심으로 흐른다. 어떤 AI 모델을 쓸 것인지, 어떤 데이터를 학습시킬 것인지, 어떤 업무를 자동화할 것인지, 어떤 화면에 챗봇을 넣을 것인지가 중심이 된다.
물론 필요한 질문이다. 하지만 이 질문만으로는 부족하다. 인간 중심 AX를 기획하려면 인간이 이 업무에서 무엇을 판단하고 있는지, AI는 그 판단의 어느 부분을 도와야 하는지, AI 결과를 인간이 이해하고 신뢰하려면 무엇이 보여야 하는지, AI가 틀렸을 때 인간은 어떻게 알아차리고 개입할 수 있는지를 함께 보아야 한다.
이 질문들은 추상적인 철학이 아니다. 실제 AX 기획에서 반드시 답해야 하는 실무 질문이다. AI가 어디에 들어가야 하는지, 어떤 결과를 보여줘야 하는지, 인간이 언제 개입해야 하는지, 어떤 오류를 예방해야 하는지는 이 질문들에 답할 때 비로소 보이기 시작한다.
인지공학에는 이런 질문을 다루기 위해 오랫동안 발전해온 여러 모델이 있다. 이 글에서 모든 모델을 자세히 설명하지는 않겠다. 다만 인간 중심 AX를 기획할 때 참고할 만한 대표적인 모델 몇 가지는 살펴볼 필요가 있다.
추상화 체계: Abstraction Hierarchy
복잡한 업무시스템을 이해하려면 화면에 보이는 데이터만 봐서는 안 된다. 그 데이터가 어떤 업무 목표와 연결되는지, 어떤 제약 안에서 해석되어야 하는지 함께 보아야 한다.
인지공학에서 중요하게 다뤄지는 Abstraction Hierarchy는 복잡한 시스템을 여러 층위로 이해하는 모델이다. 말은 어렵지만 핵심은 간단하다. 인간은 단순히 부품이나 숫자만 보고 판단하지 않는다. 그 시스템이 왜 존재하는지, 무엇을 달성해야 하는지, 어떤 기능이 중요한지, 어떤 자원이 쓰이고 있는지, 실제 장비가 어떻게 움직이는지를 함께 이해해야 한다.
예를 들어 제조 현장을 생각해보자. 가장 아래에는 센서, 설비, 밸브, 로봇, 장비 같은 물리적 요소가 있다. 그 위에는 온도, 압력, 속도, 생산량, 불량률 같은 상태 정보가 있다. 그보다 위에는 생산 안정성, 품질 유지, 납기 준수 같은 기능적 목표가 있다. 더 위에는 비용 절감, 안전 확보, 고객 납기 대응 같은 사업적 목적이 있다.
현장 엔지니어가 좋은 판단을 하려면 이 여러 층위를 연결해서 봐야 한다. 단순히 “온도가 올라갔다”만 알아서는 부족하다. 그 온도 상승이 품질에 어떤 영향을 주는지, 생산량을 유지하는 데 문제가 되는지, 안전 리스크와 연결되는지, 지금 멈춰야 하는 상황인지까지 이해해야 한다.
AX에서도 마찬가지다. AI가 “이 설비는 이상 가능성이 높다”고 말하는 것만으로는 충분하지 않다. 사용자는 왜 이상 가능성이 높은지, 어떤 데이터가 영향을 주었는지, 이 이상이 품질·납기·안전·비용 중 무엇과 연결되는지, 지금 해야 할 조치가 무엇인지 이해해야 한다. 그래야 AI의 결과는 단순한 알림이 아니라 판단 가능한 정보가 된다.
의사결정 체계: Decision Ladder
Decision Ladder는 인간이 복잡한 상황에서 판단하고 행동하기까지의 과정을 설명하는 모델이다. 인간은 정보를 보자마자 곧바로 행동하지 않는다. 먼저 무언가 이상하다는 신호를 감지하고, 현재 상태가 무엇인지 확인한 뒤, 그 상태가 어떤 의미인지 해석한다. 이후 어떤 목표를 달성해야 하는지 정하고, 가능한 조치들을 떠올린 다음, 그중 하나를 선택하고 실행한다. 마지막으로 실행 결과를 확인한다.
AX 기획에서 중요한 것은 AI가 이 판단 과정 중 어느 단계에 개입하는지를 명확히 하는 것이다. 이상 탐지 AI는 주로 감지를 돕는다. 원인 분석 AI는 상태 파악과 의미 해석을 돕는다. 추천 AI는 대안 생성과 선택을 돕는다. 자동 실행 AI는 실행 단계에 개입한다. 모니터링 AI는 결과 확인을 돕는다.
단계가 다르면 필요한 설계도 달라진다. AI가 감지만 돕는다면 사용자는 그 알림이 왜 중요한지 이해할 수 있어야 한다. AI가 해석을 돕는다면 어떤 데이터와 근거로 그렇게 판단했는지 보여주어야 한다. AI가 대안을 추천한다면 추천안 간 차이와 리스크가 보여야 한다. AI가 실행까지 한다면 사용자는 언제 중단하고 되돌릴 수 있는지 알아야 한다.
많은 AX 프로젝트는 이 구분을 하지 않는다. AI가 무엇인가를 “해준다”는 수준에서 멈춘다. 그러나 실제 업무에서는 AI가 어느 판단 단계에 들어오는지가 매우 중요하다. 감지를 돕는 AI를 최종 판단 도구처럼 쓰면 위험하고, 실행을 자동화하는 AI에 개입 장치가 없으면 책임지기 어렵다.
따라서 AX 기획자는 “AI가 무엇을 할 수 있는가”보다 먼저, 인간이 지금 어떤 판단을 하고 있으며 AI는 그 판단의 어느 지점을 도와야 하는지를 보아야 한다.
업무 숙련 수준: SRK Taxonomy
세 번째는 Rasmussen의 SRK Taxonomy다. SRK는 인간의 행동과 판단을 Skill-based, Rule-based, Knowledge-based의 세 수준으로 나누어 설명한다. 먼저 Skill-based 행동은 숙련으로 거의 자동화된 행동이다. 숙련된 작업자가 자주 쓰는 시스템에서 몇 번의 단축키와 클릭만으로 데이터를 조회하거나, 현장 엔지니어가 익숙한 알람을 보고 즉시 조치하는 경우가 여기에 가깝다.
Rule-based 행동은 정해진 규칙이나 절차를 따르는 판단이다. 특정 조건이면 어떤 항목을 확인하고, 어떤 기준을 넘으면 누구에게 보고하고, 어떤 상황이면 승인 절차를 밟는 식이다.
마지막 Knowledge-based 행동은 새로운 상황에서 문제를 해결하는 판단이다. 기존 절차로 설명되지 않는 이상 상황, 처음 보는 데이터 패턴, 여러 부서가 얽힌 예외 상황, 책임 있는 의사결정이 필요한 경우가 여기에 해당한다.
AX 기획에서 SRK가 중요한 이유는 AI가 모든 업무를 같은 방식으로 도와서는 안 되기 때문이다. 숙련자가 이미 빠르게 처리하고 있는 Skill-based 업무에 챗봇을 끼워 넣으면 오히려 방해가 될 수 있다. Rule-based 업무에서는 AI가 절차와 조건을 지원하는 것이 효과적일 수 있다. Knowledge-based 업무에서는 AI가 단순히 답을 내놓기보다 원인 후보, 유사 사례, 판단 근거, 관련 데이터의 관계를 제공해야 한다.
이 관점에서 보면 AX 기획자는 “AI가 무엇을 할 수 있는가”만 볼 것이 아니라 “인간이 어떤 수준의 판단으로 이 업무를 수행하고 있는가”를 함께 보아야 한다. 사용자가 숙련으로 빠르게 처리하는 일을 AI가 방해하지는 않는지, 규칙 기반 판단을 AI가 더 명확하게 도와주는지, 새로운 문제 해결 상황에서 AI가 인간의 사고를 확장해주는지 확인해야 한다. AI가 인간의 역량을 대체하는 것이 아니라, 인간의 판단 수준에 맞게 다른 방식으로 지원해야 한다.
인간 중심 AX는 판단 구조를 설계하는 일이다
인지공학의 인지 모델들은 원자력 발전소, 항공기, 대형 화학공장처럼 복잡하고 위험도가 높은 시스템에 적용되어 왔다. 그렇다고 이 결과들을 모두 깊게 이해해야만 AX를 기획할 수 있다는 뜻은 아니다. 중요한 것은 인지공학이 가진 관점이다.
- AI 결과는 업무 목표와 연결되어 있는가?
- AI는 의사결정의 어느 단계를 돕고 있는가?
- AI는 인간의 판단 수준에 맞게 다르게 작동하는가?
- 사용자는 AI의 결과를 판단할 수 있는 환경 안에 있는가?
이 질문에 답할 수 있어야 인간 중심 AX가 가능하다. AX를 단순히 AI 기능 도입으로 보면 어떤 AI 모델을 쓸 것인지, 어떤 데이터를 학습시킬 것인지, 어떤 업무를 자동화할 것인지, 어떤 화면에 챗봇을 넣을 것인지가 중심 질문이 된다. 물론 필요한 질문이다. 하지만 이 질문만으로는 부족하다.
AX를 인간-AI 의사결정 시스템으로 보면 관점이 달라진다. 사용자가 AI의 도움을 받아 더 빠르고 정확하게 판단할 수 있는가? AI가 틀렸을 때 사용자가 알아차리고 개입할 수 있는가? AI 결과가 업무 목표와 연결된 상태인가? 사용자는 그 결과를 신뢰하거나 거절할 근거를 가지고 있는가? 이 질문들이 설계돼야 비로소 AX가 작동한다.
요즘 많은 AX 프로젝트는 AI 결과를 어떻게 화면에 보여줄지에 집중한다. 하지만 인간 중심 AX에서 더 중요한 것은 화면의 위치나 모양이 아니다. 중요한 것은 판단 구조다. 사용자가 무엇을 보고, 어떤 순서로 이해하고, 어떤 기준으로 판단하며, 어떤 상황에서 개입하고, 어떤 결과에 책임질 수 있는지를 설계해야 한다. 이것이 없으면 AI 결과는 화면에 표시되지만 업무에는 들어오지 못한다.
AI가 업무에 적용된다는 것은 단순히 새로운 기능이 추가된다는 뜻이 아니다. 업무의 판단 구조가 바뀐다는 뜻이다. 예전에는 인간이 직접 찾고 비교하고 판단했다면, 이제는 AI가 먼저 감지하고, 요약하고, 추천하고, 때로는 실행까지 한다. 사용자는 그 결과를 검토하고, 받아들일지 판단하고, 필요하면 개입하며, 최종적으로 책임진다. 이 변화가 설계돼야 한다.
그렇기에 인간 중심 AX는 UX의 새로운 유행어가 아니다. 오히려 오래된 인지공학의 질문이 AI 시대에 다시 돌아온 것이다. 복잡한 시스템에서 인간은 어떻게 판단하는가, 시스템은 인간의 판단을 어떻게 도와야 하는가, 기계가 개입할 때 인간의 역할은 어떻게 바뀌는가, 오류가 발생했을 때 사용자는 어떻게 알아차리고 회복하는가를 다시 물어야 한다.
인지공학은 오래된 분야처럼 보일 수 있다. 하지만 AX가 본격화될수록 이 오래된 질문은 더 중요해진다. AI가 더 많은 일을 하게 될수록 인간의 판단은 사라지는 것이 아니라 더 높은 수준으로 이동하기 때문이다.
뉴스콘텐츠는 저작권법 제7조 규정된 단서조항을 제외한 저작물로서 저작권법의 보호대상입니다. 본 기사를 개인블로그 및 홈페이지, 카페 등에 게재(링크)를 원하시는 분은 반드시 기사의 출처(로고)를 붙여주시기 바랍니다. 영리를 목적으로 하지 않더라도 출처 없이 본 기사를 재편집해 올린 해당 미디어에 대해서는 합법적인 절차(지적재산권법)에 따라 그 책임을 묻게 되며, 이에 따른 불이익은 책임지지 않습니다.
- 에디터김동욱 (jkkims@ditoday.com)
