“AI 상담원 실수도 보상” 일레븐랩스, 세계 최초 ‘AI 보험’ 도입
AI 리스크 직원과 동일하게 보상
AI 에이전트의 실수로 인한 고객 손해를 보장하는 AI 보험이 등장했다.
인공지능(AI) 오디오 연구 및 개발 전문 스타트업 일레븐랩스(ElevenLabs)은 AI 리스크 평가 전문 기업인 AIUC(Artificial Intelligence Underwriting Company, 인공지능 인수회사)와 협력해 세계 최초로 AI 음성 에이전트 전용 종합 보험 제도(AI Insurance)를 운영한다고 18일 발표했다.
이번 제도를 통해 기업의 고객지원이나 영업 현장에서 운영되는 일레븐랩스의 AI 에이전트인 ‘일레븐에이전트(ElevenAgents)’가 잘못된 정보 제공이나 부적절한 대응 등으로 손해가 발생하는 경우 이에 대해 보험 보장을 받을 수 있다.
이는 AI를 책임을 수반하는 ‘디지털 직원(Digital Employee)’ 개념으로 제도화했다는 점에서 상징적인 발표로 평가된다.
현재 많은 기업들이 AI 에이전트 도입을 검토하고 있지만, 여전히 상당수 기업이 파일럿(시범운영) 단계에서 정체되어 있다. 특히 기업들이 우려해온 AI 환각(hallucination)이나 부적절한 발언 등에 따른 법적·경제적 책임에 대한 불명확함이 AI 에이전트 확산의 걸림돌이 되고 있다는 분석이다.
이러한 문제를 해결하기 위해 일레븐랩스는 AIUC와 협력하여 엄격한 위험 검증을 수행하고 AI를 금융 자산으로 정의하는 새로운 기준을 마련했다는 설명이다.
마티 스타니셰프스키(Mati Staniszewski) 일레븐랩스 CEO겸 공동창업자는 “기업의 AI 에이전트 도입은 빠르게 확대되고 있으며, AIUC-1 인증은 기업이 자신 있게 대규모로 AI를 도입하기 위한 또 하나의 중요한 단계”라며, “이번 인증은 파트너 기업이 필요로 하는 보안 프레임워크와 AI 보험 보장을 제공하며, 기업이 리스크를 최소화하면서도 뛰어난 고객 경험 구축에 집중할 수 있도록 하는 새로운 수단이 될 것”이라고 말했다.
뉴스콘텐츠는 저작권법 제7조 규정된 단서조항을 제외한 저작물로서 저작권법의 보호대상입니다. 본 기사를 개인블로그 및 홈페이지, 카페 등에 게재(링크)를 원하시는 분은 반드시 기사의 출처(로고)를 붙여주시기 바랍니다. 영리를 목적으로 하지 않더라도 출처 없이 본 기사를 재편집해 올린 해당 미디어에 대해서는 합법적인 절차(지적재산권법)에 따라 그 책임을 묻게 되며, 이에 따른 불이익은 책임지지 않습니다.
- 에디터장준영 (zzangit@ditoday.com)
