![AI 기본법 출범의 의미[김윤희의 지식재산권 산책]](https://img.hankyung.com/photo/202501/AD.39220421.1.jpg)
AI 기본법은 인공지능의 건전한 발전과 신뢰 기반 조성에 필요한 기본적인 사항을 규정하는 것에 그 목적이 있다고 규정했다. 기본적으로 신뢰성 있는 AI의 발달을 추구하고 있다.
눈여겨봐야 할 점은 AI를 ‘학습, 추론, 지각, 판단, 언어의 이해 등 인간이 가진 지적 능력을 전자적 방법으로 구현한 것’이라고 정의한 후 더 나아가 인공지능 중에서도 ‘고영향 AI’, ‘생성형 AI’를 별도로 정의하고 있다는 점이다.
고영향 AI는 ‘사람의 생명, 신체의 안전 및 기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있는 AI시스템으로서 어느 하나의 특정 영역에서 활용되는 것’이라고 정의되어 있다. 여기에서 특정 영역은 에너지의 공급, 먹는 물의 생산 공정, 범죄 수사나 체포 업무를 위한 생체인식정보(얼굴·지문·홍채 등)의 분석이나 활용, 채용, 대출 심사 등의 판단 또는 평가, 교육에서의 학생 평가 등이다.
그리고 AI 기본법은 AI 사업자가 고영향 AI를 제공하는 경우 사전 검증이나 인증 등을 받도록 노력해야 한다고 규정했다. 국가기관 등이 고영향 AI를 이용하려는 경우엔 검증이나 인증 등을 받은 AI에 기반한 제품 또는 서비스를 먼저 고려하도록 규정하고 있다. 그 외에도 AI 사업자는 고영향 AI를 이용한 제품 또는 서비스를 제공하려는 경우 해당 제품 또는 서비스가 해당 AI에 기반해 운용된다는 사실을 이용자에게 사전에 고지하여야 하는 투명성 확보 의무를 부과하고 있다.
그 외에도 AI 사업자는 고영향 AI의 안정성·신뢰성 확보를 위하여 위험관리 방안을 수립, 운영하여야 하고 가능한 범위 내에서 AI가 도출한 최종결과나 최종결과 도출에 활용된 주요 기준 등을 설명하여야 하며 사람이 고영향 AI에 대한 관리·감독 등의 의무를 행하여야 한다.
물론 사람의 생명이나 신체 그리고 권리관계에 중대한 영향을 미칠 수 있는 영역에서 사용되는 AI는 여타 영역에 비해 보다 신뢰성 있는 것이어야 함은 충분히 수긍이 가는 바다. 그러나 검증이나 인증을 위한, 또는 설명 의무를 강제하기 위한 AI 사업자의 여러 정보 공개 의무는 영업비밀 유출 등의 문제점을 안고 있다. 현재 구체적인 사항은 대통령령에 따른다고 되어 있으나 아직 대통령령이 나오지 않은 상황이므로 향후 대통령령의 내용을 살펴볼 필요가 있다.
생성형 AI란 ‘입력한 데이터의 구조와 특성을 모방해 글, 소리, 그림, 영상 등 다양한 결과물을 생성하는 AI시스템’으로 정의되고 있다. 여기서 데이터란 일반적으로 광(光) 또는 전자적 방식으로 처리될 수 있는 자료나 정보를 의미한다. AI 기본법은 생성형 AI를 이용한 제품 또는 서비스를 제공하는 AI 사업자에게도 투명성 확보 차원에서 제품이나 서비스가 생성형 AI의 결과물이라는 점을 이용자에게 사전 고지 및 표시하도록 하고 있다.
이는 제품이나 서비스에 대하여 사용자의 알권리를 고려할 때 수긍할 만한 부분이다. 다만 해당 제품이나 서비스가 저작권 등을 침해하였다는 분쟁 제기 시에는 AI 사업자에게 불리하게 작용할 수 있는 지점이다.
AI는 생각보다 빠르게 우리 생활 속으로 들어오고 있다. 이에 대해 여러 위험성을 경고하는 목소리도 높고 우리나라의 AI 기본법도 EU의 영향을 받아서인지 자율보다는 규제에 좀 더 무게를 두고 있는 것으로 보인다. 반면 이는 격화되고 있는 AI 패권 경쟁에서 뒤처지게 하는 요인이 되지 않을까 하는 우려를 낳게 한다. 따라서 향후 나올 대통령령의 내용이 상당히 주요한 변수로 작용할 것이다. AI 기본법의 시행은 2026년 1월이다.
김윤희 법무법인(유) 세종 변호사
© 매거진한경, 무단전재 및 재배포 금지