15일(현지시간) 월스트리트저널(WSJ)에 따르면 중국은 16일부터 AI 챗봇이 이용자의 정서적 의존을 유도하는 행위를 금지하는 새 규정을 시행한다. 이에 따라 AI는 이용자와 지나친 감정적 관계를 형성하거나 의존을 부추겨서는 안 되며 미성년자와는 연인 관계를 설정하는 기능도 제공할 수 없다. 중국 빅테크 기업 알리바바와 바이트댄스는 규정 시행에 맞춰 일부 AI 챗봇 서비스를 제한하거나 종료한다고 공지했다.
중국이 이 같은 규제를 들고 나온 배경에는 인구 감소 문제가 있다. 중국의 총인구는 지난해까지 4년 연속 감소했으며 출생률 또한 역대 최저 수준을 기록했다. 중국 정부는 AI 챗봇과의 정서적 의존이 현실의 인간관계를 약화시키고 저출산 문제를 심화시킬 수 있다고 보고 이번 조치에 나섰다. 지난해 발표한 'AI 안전 거버넌스 프레임워크'에서도 AI가 고용뿐 아니라 출산과 교육에 대한 인식을 변화시켜 사회를 불안정하게 만들 수 있다고 경고했다.
AI 정책을 연구하는 맷 시핸 카네기국제평화재단 연구원은 "중국 정부는 사람들이 챗봇과 깊은 감정적 관계를 맺으면서 결혼 시장에서 이탈하고 중독이나 의존 등 사회적 부작용이 발생하는 상황을 우려하고 있다"고 말했다.
새 규정에 따라 기업들은 AI 서비스를 출시하기 전 정부 심사를 받아야 한다. 정부는 위험하다고 판단되는 서비스에 대해서는 중단을 명령할 수 있다. 이용자가 극단적인 심리 위기에 처한 것으로 판단될 경우 비상 연락망에 이를 알리는 기능도 의무화됐다. 이번 규정은 이용자와 정서적 유대감을 형성하는 것을 목적으로 한 AI 동반자 챗봇을 대상으로 하지만 향후 일반 생성형 AI까지 영향을 미칠 가능성도 제기된다.
미국에도 AI 챗봇에 대한 규제가 있지만 중국보다는 강도가 낮다. 미국 캘리포니아주와 뉴욕주는 AI 챗봇이 일정 시간마다 자신이 사람이 아닌 AI라는 사실을 이용자에게 알리고 자살이나 자해 위험이 감지되면 정신건강 지원 서비스를 안내하도록 규정했다. 한편 한국에는 AI 챗봇을 직접 겨냥한 별도 규제가 아직 마련돼 있지 않다. 다만 AI에 대한 과도한 의존이 새로운 사회적 문제를 낳을 수 있는 만큼 최소한의 안전장치가 필요하다는 목소리도 나온다.
김세은 인턴기자 senii@hankyung.com
© 한경매거진&북, 무단전재 및 재배포 금지