트렌드

드디어 통과된 ‘AI 기본법’, 알기 쉽게 정리했습니다

제정 이유부터 주요 내용, EU AI 법과의 차이점까지… AI 기본법 총정리

2025년 1월 8일

---

지난 2024년 12월 26일, ‘인공지능(AI) 발전과 신뢰 기반 조성 등에 관한 기본법’이 재석 264명 중 찬성 260명, 반대 1명, 기권 3명으로 국회 본의회를 통과했습니다. 우리가 간략히 줄여 ‘AI 기본법’이라고 부르는 법으로, 공포 후 1년이 경과된 날부터 시행될 예정입니다.

그러나 AI 자체도 아직 생소한 구석이 있는 현재, AI 기본법은 무엇이며, 기본법의 시행이 시장에 어떠한 영향을 미치는지에 대해 궁금하면서도 막연한 분들이 적지 않을 겁니다.

이런 분들을 위해 일찍부터 AI 법률 전담 팀을 구성해 활동하고 있는 ‘법무법인 태평양’의 자료와 AI팀의 주축을 담당하는 강정희 변호사와의 서면 인터뷰를 기반으로 AI 기본법에 대해 알기 쉽게 살펴보도록 하겠습니다.

AI 기본법, 왜 만들었을까?

2022년 챗GPT(ChatGPT) 등장 이후 AI는 빠른 속도로 발전하고 있습니다. 이에 AI가 활용되는 영역 또한 급속도로 확장되고 있는데요. 그러나 모든 기술이 그러하듯, AI도 기술이 가져올 잠재적 혜택만큼 보이지 않는 위험성 또한 우려되는 상황입니다.

이렇듯 새로운 기술은 사회에 기대감과 동시에 혼란을 야기할 수밖에 없습니다. AI 기본법은 AI라는 새로운 기술이 올바르게 발전하고, 사회의 신뢰가 자랄 수 있도록 명확한 기반과 사항을 규정하기 위해 마련된 것입니다.

AI 기본법의 주요 내용

AI 기본법은 크게 5가지 항목으로 나눠 살펴볼 수 있는데요. 각 항목에 해당하는 내용을 한번 알아보겠습니다.

<고영향 인공지능, 생성형 인공지능, 인공지능사업자 등 정의>

AI 법률을 제정함에 있어 가장 먼저 필요한 건 AI 관련 용어에 대한 ‘법률적인 정의’를 마련하는 일입니다. 해당 법률에서는 크게 ‘고영향 인공지능’ ‘생성형 인공지능’ ‘인공지능사업자’ 등의 용어의 법률적인 의미를 정리했습니다.

<인공지능 기본계획 수립 및 국가인공지능위원회 설치>

AI 기술에 대한 정부의 지원도 가시화됩니다. 이제 과학기술정보통신부장관은 3년마다 AI에 대한 정책의 기본 방향, 전문인력 양성 등에 대한 ‘인공지능 기본계획’을 3년마다 수립 및 시행해야 하고, 대통령 소속으로 ‘국가인공지능위원회’를 두고 AI 기본계획 수립, 활용 촉진, 관련 인프라 확충 등을 심의하고 의결하게 됩니다.

<고영향/생성형 인공지능 관련 의무>

기술에 대한 의무도 정의됐는데요. 크게 5가지로 나눠 정리할 수 있습니다.

<국내 대리인 지정 제도>

이용자 수, 매출액 등이 대통령령으로 정하는 기준에 해당하는데 국내에 주소나 영업소가 없는 인공지능사업자라면 ‘안정성 확보 이행 결과 제출’ 등을 대리하는 국내대리인을 지정하고 과학기술정보통신부장관에게 신고해야 합니다.

만약 국내 대리인이 대리 업무와 관련해 법을 위반하면 해당 대리인을 지정한 인공지능사업자가 위반한 것으로 간주합니다. 국내 대리인의 지정하지 않으면 3000만원 이하의 과태료가 부과되고요.

<사실조사 및 중지·시정명령>

소속 공무원은 인공지능사업자에 대해 자료 제출을 요구하거나 사무소나 사업장에서 장부·서류 등의 자료나 물건을 조사할 수 있습니다. 조사 결과 법 위반이 인정된다면 위반행위 중지 및 시정명령도 내릴 수 있죠. 해당 중지명령이나 시정명령을 이행하지 않으면 3000만원 이하의 과태료가 부과됩니다.

의의는 있지만 보완이 필요한 부분도

AI 기본법의 주요 5개 항목에 대해 살펴봤습니다. 그렇다면 이러한 내용의 AI 기본법이 시행되는 건 어떤 의의를 가질까요?

이에 대해 강 변호사는 “AI 산업의 발전 방향, 특히 AI 산업에 대한 규제 방향을 명확하게 했다는 점에서 의의가 있다”는 입장입니다. AI 기본법이 제정된다고 국가의 AI 산업이 급작스럽게 발전하는 것은 아니지만, 규제 중심이든 진흥 중심이든 국가가 산업 발전의 방향성과 한계에 대해 큰 그림을 그려야 기업이 어떠한 방향으로든 움직일 수 있기 때문이죠.

그러나 아직 AI 기본법 구축에 있어 보완이 필요한 부분이 있는 것 또한 사실입니다. 강 변호사는 ‘고영향 인공지능 규정’과 ‘개별 규제당국과 과학기술정보통신부 간 역할 정립’이라는 두 가지 사안에 보완이 이뤄질 필요가 있어 보인다고 분석했습니다.

구체적으로 고영향 인공지능에 대해 강 변호사는 “고위험이 아닌 고영향 인공지능이라는 용어를 사용하면서 어느 정도로 중대한 영향을 미치는 인공지능을 규제 범위에 포함시킬 것이며, 그 영향 정도는 어떻게 평가할 것인지, 나아가 시행령에서 고영향 인공지능을 추가로 정할 수 있도록 규정하고 있는데, 그 범위를 어떻게 할 것인지 등이 불명확하다”고 말하며 이에 대해 사회적 합의를 통해 보다 명확한 규제 방향을 정립할 필요가 있다고 지적했습니다.

역할 정립의 경우 개인정보보호위원회 등 개별 규제당국과 AI 기본법의 주무부처인 과학기술정보통신부 간 역할 정립을 논의할 필요가 있다는 이야기입니다. 예로 개인정보보호위원회, 또는 금융위원회는 이미 소관 분야에 대한 AI 가이드라인을 발표한 바 있습니다. 이에 따라 해당 기업 또한 AI 서비스 도입을 위한 컴플라이언스 체계 등을 구축했죠. 자칫 기업의 중복 규제로 이어질 수 있는 겁니다. 따라서 강 변호사는 중복 규제를 방지하지 위해 적절한 권한 배분이 이뤄질 필요가 있다고 해석한 것이죠.

국내 법조계 또한 해당 법안에 대해 비판을 제기하고 있는 상태인데요. 법조계에서 공통적으로 제기하는 비판은 다음과 같습니다.

그러나 이러한 지적이 AI 기본법이 잘못 만들어진 법안이라는 뜻은 아닙니다. 강 변호사는 “규제와 진흥 중 하나를 선택한다면 현재 대한민국은 후자에 무게를 두는 것이 바람직하다고 본다”며 “AI 기본법 제정이 국내 AI 산업에 대한 규율 체계를 정립함으로써 산업 발전의 디딤돌이 되는 계기가 될 것은 분명하다”고 전했습니다. 아직 부족한 부분은 정부가 법조계, 산업계의 비판을 수용해 규제 범위와 요건을 차차 구체화시켜 나가며 보완하면 되는 것입니다.

EU AI 법과는 무엇이 다를까?

앞서 시행된 EU AI 법이 크게 주목을 받은 만큼, 국내 AI 기본법이 EU의 AI 법안과 어떻게 다른지 또한 궁금할 텐데요. AI 기본법과 EU AI 법은 크게 ‘규제 대상과 범위’ 그리고 ‘제재 방식’에서 차이가 있습니다.

AI 기본법과 EU AI 법은 AI의 위험 정도를 구분해 규제를 달리 적용하는 ‘위험 기반 접근 방식’을 채택하고 있다는 공통점이 있습니다.

그러나 AI 기본법은 고영향 인공지능과 생성형 인공지능에 대해서만 별도로 정의해 규제하는 반면, EU AI 법은 AI의 종류를 ‘허용불가위험’ ‘고위험’ ‘제한된 위험’ ‘저위험’의 4가지로 분류해 규제하고 있습니다. EU AI가 ‘위험’이라는 용어를 사용한 것과 달리 AI 기본법이 ‘영향’이라는 가치중립적 단어를 사용한 점도 차이로 볼 수 있습니다.

AI 기본법이 AI를 활용해 제품이나 서비스를 제공하는 이들을 통틀어 ‘인공지능사업자’라고 칭하고 공통적인 의무를 부과하는 반면, EU AI 법은 ‘공급자’ ‘배포자’ ‘수입자’ ‘유통자’로 나눠 관련 의무를 차등적·차별적으로 부과하고 있는 점도 차이점입니다. 특히 EU AI 법의 경우 유통자에게 고위험 인공지능 시스템이 관련 준수사항에 부합하지 않는다면 시정조치, 리콜, 나아가 철회까지 이행해야 하는 의무를 부과하고 있죠.

AI 기본법은 ‘국방 또는 국가안보 목적으로만 개발·이용되는 인공지능’에 대해서만 적용이 제외됩니다. 반면 EU AI 법은 이외에도 ‘시장 출시 또는 서비스 전 단계의 연구·시험·개발 등의 경우’ ‘오로지 과학적 연구·개발 목적으로 개발·이용되는 경우’ ‘순수하게 사적인 비직업적 활동에 이용되는 경우’ 등의 적용 제외 규정이 있습니다.

자율적인 영향평가 제도와 국내 대리인 제도를 도입한 점은 AI 기본법과 EU AI 법의 공통점입니다. 다만 제재의 엄격성은 EU AI 법안이 더욱 높습니다.

국내의 경우 최대 3000만원의 과태료를 규정으로 두고 있는 반면, EU AI 법의 경우 기업 규모에 따라 최대 전 세계 매출액의 7%, 또는 3500만 유로에 달하는 과징금을 부과할 수 있습니다. 전 세계적으로 화제가 됐던 높은 수준의 과징금이죠.

AI 기본법, 규제가 낮다고 안심해서는 안될 것

지금까지 AI 기본법의 세부 내용과 EU AI 법과의 차이 등을 알아봤습니다. 이번 AI 기본법은 크게 정부 차원에서 AI 기술과 산업 진흥을 위한 법적 근거를 마련했다는 측면에서 향후 활발한 투자를 이끌어낼 수 있다는 긍정적인 평가가 있는 동시에 규제 내용이 다소 모호하다는 점을 근거로 여전히 사업 환경에 불확실성이 존재한다는 우려도 제기되는 상황입니다.

다만 AI 기본법의 보다 구체적인 내용이 향후 마련될 시행령에서 보완될 예정이므로, 정부가 다양한 비판을 수용하고 규제 범위와 요건을 어떻게 구체화할 것인지가 중요할 것으로 분석됩니다.

이미 전 세계 각국이 AI 규제 체계를 마련하고 있는 상태에서, 표면적으로는 유사해 보일 수 있지만 국내 법안과 EU AI 법이 다르듯 각국의 규제 체계는 나라별 특성에 따라 차이가 존재할 수밖에 없습니다. 이에 대해 강 변호사는 “글로벌 비즈니스의 특성을 고려할 때 기업은 국내 AI 기본법이 상대적으로 낮은 수준의 규제를 가진다고 안심해서는 안된다“고 조언하는 동시에 “궁극적으로 기업과 정부 모두 글로벌 거버넌스 체계와 조화를 이루는 방향으로 나아가야 한다”고 강조했습니다.

향후 국내 AI 기본법이 어떠한 방향성으로 완성될지, 계속해서 관심을 가지고 지켜보는 동시에 전 세계 각국의 AI 법률 동향에도 눈과 귀를 기울여야 할 것 같습니다.

👉 참고 자료: AI 기본법 제정안의 주요 내용 및 시사점
AI 기본법 통과의 의의 및 산업계에 미칠 영향

• AI
• AI 기본법
• AI 법률
• 법무법인 태평양