딥페이크 악용에...네이버 '얼굴 합성 차단'·카카오 '워터마크 도입'

사진= 네이버, 카카오 각 홈페이지

네이버와 카카오가 딥페이크(AI를 이용해 만든 가짜 이미지·영상) 악용을 차단한다. 부적절한 요청에는 응답하지 않거나, AI로 생성된 콘텐츠에 워터마크를 도입하는 등이다.

20일 네이버에 의하면 클로바X는 ‘음란성 콘텐츠’나 ‘얼굴 합성’ 요청에 결과물을 내놓지 않기로 했다. 클로바X는 네이버에서 대형 언어 모델(LLM)을 활용해 만든 대화형 인공지능 서비스다. 이용자가 대화창에 질문 및 요청을 하면 클로바X가 답을 해주는 식이다.

네이버 관계자는 “클로바X에서 이미지 삭제나 변경이 가능한 편집 기능을 제공하게 되면서 부적절한 콘텐츠 생성을 요청하는 경우와 관련해 조치를 취하게 됐다”고 맑혔다.

카카오의 AI 연구전문 자회사인 카카오브레인은 생성 AI 모델 ‘칼로’에 비가시성 워터마크 기술 도입을 검토하고 있다. 비가시성 워터마크는 기술적으로 AI를 활용해 생성된 이미지임을 알 수 있게 하는 기술로, 일반 이용자에게는 보이지 않는다.

이는 4월 국회의원 총선거에서 딥페이크 콘텐츠가 정치적으로 오용·악용되는 사태를 차단하려는 것으로 풀이된다. 지난해 말 국회는 선거 90일 전부터 딥페이크를 활용한 선거 운동을 금지하는 내용의 공직 선거법 개정안을 의결했다. 딥페이크를 이용해 선거운동을 하다가 적발될 시 7년 이하의 징역이나 최고 5000만원 벌금을 물게된다

이와 관련해 네이버는 모니터링 전담 부서를 운영하고 있다고 밝혔다. 딥페이크 오용 패턴을 분석하고 지속적으로 업데이트한는 입장이다. 한 카카오 관계자는 “유해 콘텐츠에 대해서는 (그동안) 모니터링해왔고 딥페이크 역시 연장선상에서 모니터링 중”이라고 밝혔다.

일각에서는 4월 10일 제 22대 국회의원 총선거를 앞두고 딥페이크 게시물에 신속 대응이 어려울 수 있다는 우려의 목소리가 나오고 있다. 한편 딥페이크 불법 선거운동이 활개를 치고 있는 탓이다. 20일 중앙선거관리위원회는 지난 16일까지 딥페이크 불법 선거운동 게시물이 129건에 달한다고 밝혔다.

윤소희 인턴기자 ysh@hankyung.com