AI 에이전트가 아니라 ‘슈퍼 툴’을 만들어야 한다 [인간 중심 AX ⑤]
인지공학 관점에서 본 AX의 올바른 목표
구글 검색 선호 매체로 추가DX와 AX는 무엇이 다를까? [인간 중심 AX③]
AX를 DX의 연장선상으로 보면 실패하는 이유
앞선 글에서는 AI를 도입하는 것만으로 업무생산성이 높아지지 않는 이유를 살펴보고, 이를 해결하려면 인간과 AI의 역할을 다시 나누어야 한다고 설명했다. 이런 점에서 AX는 기존 업무를 디지털 시스템으로 옮겼던 DX와 달리 인간의 역할 자체를 변화시키는 전환이며, 이 과정에서 인간의 판단을 어떻게 지원할 것인지는 인지공학이 오래전부터 다뤄온 문제라는 것도 소개했다.
이제부터는 이런 관점을 실제 AX 기획에 어떻게 적용할 것인지 이야기해보려고 한다. 그 출발점에서 가장 먼저 정리해야 할 것이 있다. 인간 중심 AX를 통해 우리가 궁극적으로 만들고자 하는 것은 무엇인가?
AX의 목표가 AI 에이전트에서 멈추면 안된다
많은 이들이 AX 프로젝트를 AI 에이전트를 만드는 일로 생각한다. 자율주행 자동차처럼 AI가 인간이 하던 업무를 스스로 수행하는 모습을 떠올리는 것이다. 데이터를 찾아주고, 보고서를 작성하고, 고객 문의를 처리하고, 설비 이상을 분석하고 조치안을 추천하는 에이전트처럼 인간이 하던 일을 대신 수행하는 AI를 만드는 것이 AX의 목표처럼 이야기된다.
물론 AI 에이전트를 만드는 것이 문제라는 뜻은 아니다. 앞으로 많은 업무에서 에이전트는 중요한 기술적 수단이 될 것이다. 그러나 AX의 목표를 에이전트를 만드는 것으로 정의하는 순간, 정작 더 중요한 것을 놓칠 수 있다. AI가 어떤 일을 대신했는지가 아니라 ‘인간이 실제로 이전보다 더 잘 일하게 되었는가?‘가 중요하기 때문이다.
미국의 컴퓨터 과학자이자 메릴랜드 대학교 컴퓨터 공학부의 저명한 교수 벤 슈나이더먼은 <Human-Centered AI>에서 이 차이를 설명하기 위해 인간처럼 행동하는 ‘인텔리전트 에이전트’와 인간의 능력을 증폭시키는 ‘슈퍼툴’이라는 두 가지 방향을 대비시킨다. 인간 중심 AI가 추구해야 할 것은 인간을 대체하는 지능을 만드는 데 머무르는 것이 아니라, 인간이 더 잘 보고, 더 잘 이해하고, 더 정확하게 판단하고, 이전엔 하기 어려웠던 일을 수행할 수 있도록 능력을 확장하는 슈퍼툴을 만드는 것이라는 주장이다.
인간 중심 AX의 목표도 여기에 있어야 한다. AI 에이전트는 슈퍼툴을 구현하는 하나의 수단일 수 있지만, 인간 중심 AX의 목표가 결코 에이전트가 되어선 안된다.
디지털 카메라가 보여주는 슈퍼툴
슈나이더먼은 디지털카메라를 슈퍼툴의 대표적인 사례로 설명한다. 과거의 카메라를 제대로 사용하려면 사용자가 노출, 초점, 셔터 속도와 같은 여러 요소를 직접 이해하고 조정해야 했다. 반면 최근의 디지털 카메라는 이런 일의 상당 부분을 자동으로 처리한다. 자동초점은 촬영 대상을 찾아 초점을 맞추고, 자동노출은 주변 밝기에 따라 적절한 설정을 계산하며, 손떨림 보정은 촬영자의 미세한 움직임까지 보완한다.
자동화 수준만 놓고 보면 과거의 카메라와 비교하기 어려울 정도로 높아진 것이다. 하지만 디지털 카메라는 사진을 찍는 인간을 대체하지 않았다. 무엇을 찍을지, 어떤 순간에 셔터를 누를지, 어떤 구도로 담을지, 무엇을 표현하고 싶은지는 여전히 촬영자가 결정한다. 오히려 자동화가 기술적인 부담을 줄여주면서 촬영자는 더 중요한 일에 집중할 수 있게 되었다. 기계가 초점과 노출 같은 계산과 제어를 맡고, 인간은 의도와 판단에 더 많은 인지적 자원을 사용할 수 있게 된 것이다.
이것이 슈퍼툴의 핵심이다. 인간이 하던 모든 일을 기계에 넘기는 것이 아니라, 기계가 잘하는 일을 맡김으로써 인간이 더 중요한 일을 더 잘할 수 있게 만드는 것이다. 따라서 인간 중심 AX에서 중요한 것은 ‘업무를 얼마나 많이 자동화했는가?’가 아니다. AI가 들어온 이후 인간이 수행하는 일의 수준이 얼마나 높아졌는지를 봐야 한다. 이 관점에서 AX의 질문도 달라진다. “이 업무를 AI가 대신할 수 있는가”보단 “이 AI를 사용하면 직원이 이전보다 얼마나 더 잘 일할 수 있는가”가 중요하다.
슈퍼툴은 인간의 역할을 더 높은 수준으로 이동시킨다
슈퍼툴의 목표는 단순히 인간의 업무량을 줄이는 것이 아니다. 인간이 수행하는 업무의 수준을 높이는 것이다. 예를 들어 분석 담당자가 여러 시스템을 돌아다니며 데이터를 찾고, 엑셀로 취합하고, 이상 항목을 하나씩 확인하는 데 많은 시간을 사용하고 있었다고 해보자.
AI가 이런 일을 대신한다면 인간의 역할은 단순히 줄어드는 데서 끝나서는 안 된다. 어떤 이상이 정말 중요한지, 그 이상이 업무 목표에 어떤 영향을 주는지, 어떤 조치를 먼저 취해야 하는지를 판단하는 쪽으로 이동해야 한다.
AI가 인간의 일을 가져가는 것이 아니라, 인간이 더 중요한 일을 할 수 있도록 업무의 수준을 올려주는 것이다. 그래서 좋은 AX는 인간이 덜 일하게 만드는 시스템이라기보다, 인간이 반복적이고 기계적인 업무에서 벗어나 더 높은 수준의 판단과 문제 해결에 집중할 수 있게 만드는 시스템이라고 보는 편이 정확하다.
자동화하면서도 인간의 통제는 유지할 수 있다
슈퍼툴의 또 다른 중요 특징은 자동화와 인간 통제가 서로 반대되는 개념이 아니라는 점이다. 자동화 수준이 높아지면 자연스럽게 인간의 역할과 통제가 줄어들 것이라고 생각하기 쉽다. 그러나 슈나이더먼의 Human-Centered AI 프레임워크는 자동화와 인간 통제를 두 개의 독립적인 축으로 본다. 자동화가 높으면서 인간의 통제 역시 높은 시스템을 만들 수 있으며, 오히려 이것이 신뢰할 수 있고 안전한 시스템이 지향해야 할 방향이라고 본다.
수술 로봇도 디지털카메라와 비슷하다. 정밀한 로봇 장치는 외과의사의 손동작을 확대하고 미세한 움직임을 보조하지만, 수술의 목적과 판단까지 대신하는 것은 아니다. 기술은 인간의 수행 능력을 확장하지만 중요한 의사결정과 통제는 전문가에게 남아 있다.
환자가 직접 진통제 투여량을 조절할 수 있도록 설계된 통증 자가 조절법(Patient-Controlled Analgesia) 역시 흥미로운 사례다. 약물 투여라는 기능은 기계가 수행하지만, 자신의 통증 상태를 가장 잘 아는 환자가 일정한 안전 범위 안에서 필요한 시점을 결정한다. 자동화와 인간 통제가 서로 대립하는 것이 아니라 적절하게 결합된 것이다.
AX도 이렇게 설계돼야 한다. AI가 더 많은 정보를 분석하고 추천하고 실행할 수 있게 되더라도 인간이 그 결과를 이해하고, 필요할 때 수정하고, 거절하고, 중단할 수 있어야 한다. 자동화가 높아진다고 해서 인간에게 모든 결과를 다시 확인하게 만들 필요는 없지만, 중요한 판단과 예외 상황에서 통제할 수 있는 구조는 남아 있어야 한다.
이런 통제 가능성은 단순한 안전장치 이상의 의미를 가진다. AI를 사용할수록 사용자가 상황을 더 잘 이해하고, 더 자신 있게 판단하며, 필요할 때 시스템을 통제할 수 있어야 한다. AI가 업무를 대신하면서 인간을 점점 무능하게 만들거나, 시스템이 없으면 아무것도 판단할 수 없게 만든다면 슈퍼툴이라고 보기 어렵다. 슈퍼툴은 인간의 수행 능력을 높이는 동시에 인간의 판단 능력과 통제력을 유지하도록 설계되어야 한다.
워크슬롭은 슈퍼툴과 반대 방향이다
이 관점에서 보면 1편에서 다뤘던 워크슬롭 문제도 다시 이해할 수 있다. AI가 보고서를 몇 분 만에 작성했다고 해보자. 작성자의 업무 시간만 보면 생산성이 크게 높아진 것처럼 보인다. 그러나 그 보고서를 받은 동료나 상사가 사실관계를 다시 확인하고, 맥락을 파악하고, 논리를 수정하고, 빠진 내용을 채워야 한다면 조직 전체의 업무는 줄어든 것이 아니다. AI가 일을 없앤 것이 아니라 인지적 노동을 다른 인간에게 이동시킨 것이다.
업무시스템에서도 같은 일이 일어날 수 있다. AI가 설비 이상을 수십 건 찾아냈지만 현장 엔지니어가 각각의 알람이 진짜인지 다시 검증해야 한다면 탐지 기능의 성능과 업무생산성은 별개의 문제다. AI가 데이터를 찾아주었지만 담당자가 어떤 데이터가 사용됐는지 다시 확인하고 원본 시스템과 대조해야 한다면 검색을 자동화한 것만으로는 충분하지 않다.
슈퍼툴은 반대로 작동해야 한다. AI가 만들어내는 결과의 양을 늘리는 것이 아니라, 그 결과를 이용하는 인간의 전체 업무 부담을 줄이고 더 중요한 판단에 집중할 수 있게 해야 한다. AI를 직접 사용한 직원만 편해지는 것이 아니라, 그 결과를 받아 다음 업무를 수행하는 직원까지 포함해 전체 업무 흐름이 더 좋아져야 한다.
따라서 인간 중심 AX에서는 AI의 생산량이나 응답 속도보다 업무 결과를 보아야 한다. 정보를 찾는 시간이 실제로 줄었는지, 상황을 이해하는 속도가 빨라졌는지, 판단의 정확도가 높아졌는지, 확인과 재작업이 감소했는지가 더 중요하다. 슈퍼툴의 성과는 AI가 얼마나 많은 일을 했는가가 아니라 인간이 얼마나 더 잘 일하게 되었는가로 평가해야 한다.
AX는 업무 재설계다 [인간 중심 AX ①]
AX에 대한 오해와 진실
슈퍼툴을 만들려면 업무를 다시 설계해야 한다
슈퍼툴은 기존 업무에 AI 기능 하나를 추가한다고 만들어지지 않는다. 예를 들어 직원이 여러 시스템에서 데이터를 찾고, 엑셀로 취합하고, 이상 항목을 찾아 원인을 분석한 뒤 보고서를 만드는 업무가 있다고 해보자. 여기에 챗봇을 추가해 “이 데이터를 요약해줘”라고 물을 수 있게 만드는 것은 AI 기능을 추가한 것이다. 그러나 기존 업무의 대부분이 그대로 남아 있다면 AX라고 보기 어렵다.
AI가 데이터를 찾을 수 있다면 직원이 여러 시스템을 돌아다니며 검색하는 과정은 줄어들어야 한다. AI가 이상 항목을 분석할 수 있다면 모든 데이터를 처음부터 살펴보는 대신 중요한 문제부터 확인하도록 업무 흐름이 바뀌어야 한다. AI가 원인 후보와 관련 데이터를 함께 제시할 수 있다면 인간은 데이터 수집보다 원인을 판단하고 조치하는 데 더 많은 시간을 사용할 수 있어야 한다.
즉 업무 재설계는 AI에 새로운 일을 하나 맡기는 것이 아니다. AI가 일을 맡게 됨으로써 인간이 더 이상 하지 않아도 되는 일과 새롭게 해야 하는 일을 함께 다시 정하는 것이다.
앞선 인간 중심 AX 2편에서 이야기했던 인간과 AI의 역할 재정의가 바로 여기에서 필요해진다. AI가 탐색하고, 계산하고, 요약하고, 예측하는 동안 인간은 맥락을 해석하고, 예외를 판단하고, 여러 대안 가운데 선택하고, 필요한 순간 개입하며 최종적으로 책임지는 쪽으로 역할이 이동해야 한다.
AI가 들어왔는데도 인간이 원래 하던 일을 그대로 하고, 여기에 AI 결과까지 검토해야 한다면 역할 재설계에 실패한 것이다. 슈퍼툴은 인간의 옆에 새로운 업무를 하나 추가하는 도구가 아니라, 인간의 업무 자체를 더 높은 수준으로 이동시키는 도구다.
인간과 AI의 업무를 구분하는 법 [인간 중심 AX②]
AX 시대 업무 재설계가 필요하다
슈퍼툴은 하나의 AI 기능이 아니라 업무환경 전체
기업의 AX에서 슈퍼툴을 하나의 AI 기능이나 하나의 에이전트로만 생각할 필요도 없다. 실제 업무는 하나의 시스템 안에서 끝나지 않는 경우가 많다. 직원은 이메일, 결재, ERP, MES, 데이터 분석 시스템, 보고서, 메신저 등을 오가면서 업무를 수행한다. 특정 AI 에이전트 하나가 일부 작업을 자동화해도 전체 업무 흐름이 연결되지 않으면 생산성 향상은 제한적일 수밖에 없다.
따라서 기업의 AX에서 슈퍼툴은 여러 시스템과 데이터를 연결하고, AI가 필요한 정보를 분석하며, 인간이 중요한 판단을 내리고, 그 판단이 다시 실행과 결과 확인으로 이어지도록 만든 업무환경 전체가 될 수도 있다.
제조 현장에선 생산관리 시스템 전체가 슈퍼툴이 될 수 있고, 병원에선 임상이나 연구 데이터를 탐색하고 분석하는 환경 전체가 될 수 있다. SCM에서는 여러 공급망 시스템의 정보를 통합하고 이상을 탐지하며 대응 방안을 판단하도록 지원하는 업무환경 전체가 하나의 슈퍼툴이 될 수 있다. 중요한 것은 AI 기능의 경계가 아니다. 그 시스템을 사용하는 인간의 업무 수행 능력이 어디까지 확장되었는가이다.
그래서 AX는 신제품처럼 만들어야 한다
슈퍼툴은 요구사항을 받아 기능 목록대로 구현한다고 만들어지기 어렵다. AI가 실제 업무에 들어왔을 때 인간의 행동이 어떻게 바뀔지는 미리 완벽하게 알 수 없기 때문이다. AI 결과를 어디에서 믿지 않는지, 무엇을 다시 확인하는지, 어떤 상황에서 기존 시스템으로 돌아가는지, 어떤 설명이 부족해서 추천을 받아들이지 않는지는 실제로 사용해보아야 알 수 있다.
그래서 앞서 이야기했듯 AX는 기존 시스템의 단순한 고도화보다는 신제품 개발에 가깝다. 실제 개발에 들어가기 전에 프로토타입을 만들어 직원이 사용하게 하고, AI가 얼마나 정확한 답을 만들었는지만 보아서는 안 된다. 더 중요한 것은 AI가 일을 한 다음 인간이 무엇을 하는가이다.
AI가 만든 보고서를 처음부터 다시 읽는다면 왜 그런지 알아야 하고, 추천 결과를 무시한다면 어떤 정보가 부족한지 확인해야 한다. AI 결과를 복사해 다시 엑셀이나 다른 시스템으로 옮긴다면 업무 흐름의 어느 부분이 끊어졌는지 찾아야 한다.
이런 관찰을 통해 AI의 역할과 인간의 역할, 업무 흐름과 인터페이스를 함께 수정해야 한다. 슈퍼툴은 좋은 AI 모델 하나를 도입해서 만들어지는 것이 아니라, 인간과 AI가 실제 업무 안에서 어떻게 함께 일해야 하는지를 반복적으로 설계하고 검증하면서 만들어진다.
인간 중심 AX의 목표는 슈퍼툴이다
지금까지 인간 중심 AX에서 이야기한 내용은 결국 하나의 방향으로 모인다. AI를 도입했는데 업무생산성이 높아지지 않는 이유를 이해해야 하는 것도, 인간과 AI의 역할을 다시 나누어야 하는 것도, AX를 DX와 다른 전환으로 바라봐야 하는 것도, 인지공학의 관점에서 인간의 판단 구조를 살펴봐야 하는 것도 결국 같은 목적을 향한다.
직원에게 AI 기능을 하나 더 제공하는 것이 아니라, 직원의 업무 수행 능력을 증폭시키는 슈퍼툴을 만드는 것이다. 따라서 “AI 에이전트를 만들어달라”는 요구만으로 AX의 목표를 정의해서는 부족하다. 에이전트는 데이터를 찾고, 보고서를 작성하고, 업무를 실행하는 구현 방식이 될 수 있다. 그러나 에이전트를 만들었다는 사실 자체가 AX의 성과는 아니다. 에이전트는 수단이다. 슈퍼툴이 목표다.
AX의 성과는 인간이 정보를 찾는 시간이 실제로 줄었는지, 상황을 더 빨리 이해하게 되었는지, 더 정확한 판단을 내릴 수 있게 되었는지, 불필요한 검토와 재작업이 줄었는지, 그리고 이전에는 처리하기 어려웠던 수준의 업무를 수행할 수 있게 되었는지로 판단해야 한다. 디지털카메라가 촬영자를 없애는 방향으로 발전한 것이 아니라 인간이 더 좋은 사진을 찍을 수 있도록 발전했듯이, 인간 중심 AX도 인간을 없애는 AI를 만드는 것이 목표가 아니다.
인간 중심 AX의 목표는 AI가 더 많은 일을 하게 만드는 것이 아니라, AI를 통해 인간이 더 많은 일을 더 잘할 수 있게 만드는 것이다. 인간이 이전보다 더 빠르고 정확하게 일하고, 더 복잡한 상황을 이해하며, 이전에는 하기 어려웠던 수준의 판단과 업무를 수행할 수 있게 만드는 것. 그것이 인간 중심 AX가 만들어야 할 슈퍼툴이다.
기획자는 AX를 어떻게 기획해야 할까? [인간 중심 AX ④]
다시 던져야 할 인지공학적 질문
뉴스콘텐츠는 저작권법 제7조 규정된 단서조항을 제외한 저작물로서 저작권법의 보호대상입니다. 본 기사를 개인블로그 및 홈페이지, 카페 등에 게재(링크)를 원하시는 분은 반드시 기사의 출처(로고)를 붙여주시기 바랍니다. 영리를 목적으로 하지 않더라도 출처 없이 본 기사를 재편집해 올린 해당 미디어에 대해서는 합법적인 절차(지적재산권법)에 따라 그 책임을 묻게 되며, 이에 따른 불이익은 책임지지 않습니다.
- 에디터김동욱 (jkkims@ditoday.com)
