“챗봇 대화, 앞으론 시작 전 알려야”… KISO, AI 윤리 가인드라인 공개
개발자뿐만 아니라 운영자와 사용자 행동 윤리도 포함
한국인터넷자율정책기구(KISO)가 3일 챗봇 서비스의 신뢰도를 높이고 윤리적 문제에 대응하기 위한 ‘AI 챗봇 윤리 가이드라인’을 마련‧발표했다.
다양한 분야에서 AI 챗봇 이용이 늘어나고, 이로 인해 긍정적인 영향과 부정적인 영향이 동시에 예상되자, 지난해 10월 인간에게 도움이 되는 방식으로 챗봇을 활용하는 행동 윤리의 마련에 착수했다는 것이 기구의 설명이다.
이날 KISO가 공개한 챗봇 윤리 가이드라인은 ▲인간의 존엄성 및 권리 존중 원칙 ▲프라이버시 보호 및 정보보안 원칙 ▲다양성 존중 원칙 ▲투명성 원칙 ▲책임 원칙으로 구성된 5가지 기본원칙을 제안했다.
가이드라인은 다양한 상황에서 폭넓게 적용될 수 있도록 구성됐다. 예를 들어 일반적 상황에서는 대화 상대가 챗봇임을 이용자에게 미리 밝혀야 하지만, 심리 상담 등 대화 상대를 밝히지 않는 것이 더 유의미한 효과를 가져올 수 있는 경우에는 이를 밝히지 않을 수 있다고 명시했다.
가이드라인은 개발자에게 챗봇을 개발·활용하는 전 과정에서 이용자의 다양성을 존중하며 편향과 차별을 줄이기 위해 노력해야 하고, 아동·청소년·노인층·장애인 접근성 향상을 위해 UI 단순화 기능을 강조하는 내용도 포함됐다. 사용자와 운영자에게도 챗봇 생태계의 한 축으로서 챗봇을 윤리적으로 이용해야 함을 언급하며 상호보완적 행동 윤리를 제시했다.
이재신 KISO 신기술위원회 위원장은 “챗봇 윤리 가이드라인은 챗봇을 개발‧운영하는 데 필요한 행동윤리 기준을 제시하는 최초의 민간 주도형 자율적 가이드라인이라는 점에서 의미가 크다”며 “자율규제는 인공지능의 부정적 효과를 최소화하면서도 서비스 발전을 저해하지 않도록 높은 유연성‧신속성‧효율성을 제공하는 장점을 지닌다”고 말했다.
이어 “챗봇이 우리 사회의 이익과 선을 위해 도움이 되는 방식으로 이용되도록 하고, 변화하는 기술 환경에서도 폭넓은 사회적 공감을 얻을 수 있도록 앞으로 가이드라인을 지속적으로 수정‧보완해 나갈 계획”이라고 덧붙였다.
📖 KISO 챗봇 윤리 가이드라인
1. 인간의 존엄성 및 권리 존중 원칙
ㆍ이용자의 인격과 존엄성을 존중합니다.
ㆍ관련 법령을 준수하고 이용자의 권리와 윤리적 가치를 존중합니다.
2. 프라이버시 보호 및 정보보안 원칙
ㆍ이용자의 프라이버시 및 개인정보를 보호합니다.
ㆍ개인정보가 오 남용되거나 부당하게 공유되지 않도록 합니다.
3. 다양성 존중 원칙
ㆍ모든 이용자에게 동등한 접근성을 제공합니다.
ㆍ불공정한 편향성이 발생하지 않도록 합니다.
ㆍ부당하게 이용자를 차별하지 않습니다.
ㆍ아동 청소년 및 사회적 약자를 , 특별히 보호하고 존중합니다.
4. 투명성 원칙
ㆍ원칙적으로 대화를 개시하기 전에 이용자에게 챗봇임을 알립니다.
ㆍ필요한 경우 챗봇의 용도와 특성을 이용자가 알기 쉽게 설명합니다.
5. 책임 원칙
ㆍ챗봇 서비스의 지속가능성과 사회적 영향을 고려합니다.
ㆍ챗봇 서비스 이용과정 중 발생한 문제 책임 및 책무성 체계를 갖춰야 합니다.
ㆍ챗봇과 이용자 상호 간의 지속 가능한 상생을 위해 노력합니다
