영국 기업 CIO 53% “AI 에이전트 폭주 경험했다”
감사 추적 기록 제시율은 49%
구글 검색 선호 매체로 추가
영국 CIO(최고정보책임자)의 절반 이상이 AI 에이전트의 가이드라인 위반으로 인한 자사·고객 피해 사례를 겪은 것으로 나타났다.
27일(현지시간) 테크레이더는 미국 여론조사 기관 해리스폴(Harris Poll)이 글로벌 AI 플랫폼 기업 데이터이쿠(Dataiku) 의뢰로 최근 실시한 설문 조사 결과를 인용해 이같이 보도했다. 이번 설문 조사는 영국·프랑스·독일·미국·아랍에미리트·일본·한국·싱가포르의 CIO 685명을 대상으로 진행됐다.
조사 결과에 따르면, 영국 CIO의 53%는 AI 에이전트가 기 정책을 위반해 자사나 고객에 영향을 미친 사례를 한 번 이상 목격한 것으로 나타났다. 이는 전체 평균인 31%를 크게 웃도는 수치다.
아울러 영국 CIO 중 AI 에이전트의 ‘감사 추적(Audit Trail) 기록’을 제시할 수 있는 비율은 49%에 불과했다. 감사 추적 기록은 AI 에이전트가 판단하고 실행하는 모든 활동과 그 배경을 연대기적으로 기록하는 것으로, AI 보안을 위한 핵심 자료로 꼽힌다.
페이 머레이 데이터이쿠 필드 최고데이터책임자는 “영국 기업 절반 이상이 AI 에이전트의 정책 위반을 보고했다는 것은 모니터링만으로는 충분하지 않다는 신호로 봐야 한다”고 말했다. 이어 사고에 대한 책임 체계는 “사고가 난 뒤에 소급 적용할 수 없는 만큼, 처음부터 설계에 포함돼야 한다”고 덧붙였다.
또 설문 조사 응답자의 68%는 AI 에이전트가 문제를 일으켰을 때 이를 파악하고 영향을 제한하는 데 24시간 이상 걸릴 것이라고 답하기도 했다.
이처럼 AI 에이전트 오작동 및 폭주 현상이 대두되면서, AI 기반 자율 시스템에 대한 인식 제고가 필요하다는 지적이 제기되고 있다. 특히 모니터링 수준으로는 해당 시스템을 제어하기 어렵다는 목소리다.
플로리안 두에토 데이터이쿠 CEO는 “업계는 CIO들에게 자율성을 팔면서 그 대가를 언급하지 않았다”며 “자율 시스템은 모니터링만이 아니라 관리가 필요하다”고 말했다. 그러면서 “모니터링은 에이전트가 작동 중인지 알려줄 뿐이고, 관리는 그 에이전트가 계속 작동할 자격이 있는지를 알려준다”며 “현재로서는 아무도 에이전트를 해고할 수 없다”고 꼬집었다.
접히는 화면보다 눈에 띈 UI·UX… 디자인 업계가 본 아이폰 듀오
UI·UX 디자이너들이 아이폰 듀오에 주목하는 이유
뉴스콘텐츠는 저작권법 제7조 규정된 단서조항을 제외한 저작물로서 저작권법의 보호대상입니다. 본 기사를 개인블로그 및 홈페이지, 카페 등에 게재(링크)를 원하시는 분은 반드시 기사의 출처(로고)를 붙여주시기 바랍니다. 영리를 목적으로 하지 않더라도 출처 없이 본 기사를 재편집해 올린 해당 미디어에 대해서는 합법적인 절차(지적재산권법)에 따라 그 책임을 묻게 되며, 이에 따른 불이익은 책임지지 않습니다.
- 에디터최석영 (csyeong720@ditoday.com)
