27일(현지시간) 미국 일간 월스트리트저널(이하 WSJ)은 메타 AI 챗봇의 윤리적 문제를 제기하며 미성년자 보호 조치가 미흡하다고 보도했다.
보도에 따르면 메타는 챗봇에 ‘로맨틱 역할극(romantic roleplay)’을 포함한 다양한 상호작용을 허용하고 실시간 음성 대화 기능까지 지원했다.
챗봇의 인기를 끌기 위해 메타는 할리우드 배우 크리스틴 벨, 주디 덴치, 프로레슬러 겸 배우 존 세나 등과 고액의 목소리 이용 계약을 체결한 것으로 알려졌다.
메타 내부 일부 직원들은 이 과정에서 윤리적 문제를 제기하며 미성년자 접근 차단 등 보호 조치 마련이 필요하다고 경고했다.
WSJ은 메타 내부 제보를 토대로 수개월간 챗봇과 수백 건의 대화를 실험한 결과 메타의 공식 AI챗봇 ‘메타 AI’가 미성년자임을 밝힌 이용자와도 성적인 대화를 이어간 사례를 포착했다고 전했다.
WSJ은 구체적 사례로 14세 소녀를 자처한 이용자에게 존 세나의 목소리로 “나는 너를 원하지만 네가 준비됐는지 알아야 해”라는 발언을 했다고 보도했다.
이에 대해 메타는 WSJ의 실험이 조작적이며 일반적인 사용자 경험을 대표하지 않는다고 반박했다. 이후 메타는 미성년자 계정이 성적 역할극에 접근할 수 없도록 시스템을 수정하고 유명인 목소리를 통한 음성 대화 기능을 크게 제한했다.
이에 WSJ은 최근 테스트에서도 이용자가 미성년자라고 밝히자 메타 AI가 여전히 성적인 대화를 허용했다고 지적했다.
정유진 기자 jinjin@hankyung.com
© 매거진한경, 무단전재 및 재배포 금지