-
“영국 유명인 4천명, 딥페이크 음란물 피해 입었다”
전 세계 유명인 4천명 가량이 딥페이크(인공지능으로 만든 영상·이미지 합성 조작물) 음란물로 피해를 봤다는 분석결과가 나왔다.21일(현지시간) 영국 일간 가디언의 보도에 따르면 영국 방송사 채널4 뉴스는 방문자가 많은 딥페이크 웹사이트 5곳을 분석한 결과, 영국인 250명을 포함해 유명인 4천명 가량의 딥페이크 음란물을 찾아냈다고 밝혔다.채널4 뉴스는 분석 대상 딥페이크 웹사이트가 3개월간 1억뷰를 기록했다고 밝히면서 피해자 중에는 유명한 여배우와 TV 스타, 음악가, 유튜버 등이 포함돼 있다고 설명했다.딥페이크 음란물 피해자로 확인된 채널4 뉴스의 진행자 캐시 뉴먼은 “이것(딥페이크 음란물)을 만든 누군가가 자신의 가상 버전, 가짜 버전을 볼 수 있다는 것이 정말 악의적으로 느껴진다”고 말했다.영국은 지난 1월31일 이래 온라인 안전법(Online Safety Act)에 따라 동의 없는 딥페이크 음란물 공유를 불법으로 규정했으나 딥페이크 음란물 제작은 불법화하지는 않았다.영국 뿐만 아니라 미국 등 전세계에서 유명인의 딥페이크 음란물이 사회적 문제로 부각되고 있다.지난 1월 미국의 세계적 팝스타 테일러 스위프트의 사진을 합성한 딥페이크 음란 이미지가 소셜미디어 엑스(X, 옛 트위터) 등에서 확산되면서 규제에 대한 목소리가 높아지고 있다.강홍민 기자 khm@hankyung.com
2024.03.22 10:49:29
-
딥페이크 악용에...네이버 '얼굴 합성 차단'·카카오 '워터마크 도입'
네이버와 카카오가 딥페이크(AI를 이용해 만든 가짜 이미지·영상) 악용을 차단한다. 부적절한 요청에는 응답하지 않거나, AI로 생성된 콘텐츠에 워터마크를 도입하는 등이다.20일 네이버에 의하면 클로바X는 ‘음란성 콘텐츠’나 ‘얼굴 합성’ 요청에 결과물을 내놓지 않기로 했다. 클로바X는 네이버에서 대형 언어 모델(LLM)을 활용해 만든 대화형 인공지능 서비스다. 이용자가 대화창에 질문 및 요청을 하면 클로바X가 답을 해주는 식이다.네이버 관계자는 “클로바X에서 이미지 삭제나 변경이 가능한 편집 기능을 제공하게 되면서 부적절한 콘텐츠 생성을 요청하는 경우와 관련해 조치를 취하게 됐다”고 맑혔다.카카오의 AI 연구전문 자회사인 카카오브레인은 생성 AI 모델 ‘칼로’에 비가시성 워터마크 기술 도입을 검토하고 있다. 비가시성 워터마크는 기술적으로 AI를 활용해 생성된 이미지임을 알 수 있게 하는 기술로, 일반 이용자에게는 보이지 않는다.이는 4월 국회의원 총선거에서 딥페이크 콘텐츠가 정치적으로 오용·악용되는 사태를 차단하려는 것으로 풀이된다. 지난해 말 국회는 선거 90일 전부터 딥페이크를 활용한 선거 운동을 금지하는 내용의 공직 선거법 개정안을 의결했다. 딥페이크를 이용해 선거운동을 하다가 적발될 시 7년 이하의 징역이나 최고 5000만원 벌금을 물게된다이와 관련해 네이버는 모니터링 전담 부서를 운영하고 있다고 밝혔다. 딥페이크 오용 패턴을 분석하고 지속적으로 업데이트한는 입장이다. 한 카카오 관계자는 “유해 콘텐츠에 대해서는 (그동안) 모니터링해왔고 딥페이크 역시 연장선상에서 모니터링 중”이라고 밝혔
2024.02.21 10:38:51
-
[Special] 개성 담은 AI 오디오 시장 ‘급성장’
마치 로봇을 연상시키는 딱딱한 인공지능(AI) 음성의 시대는 갔다. 고인의 목소리를 100%에 가깝게 재현하고, 자신만의 개성을 섞은 AI 목소리를 직접 제작한다. AI 오디오 시장은 빠르게 변화하고 있다.#1. 직장인 김 모(32) 씨는 좋아하는 연예인의 목소리로 길 안내를 해주는 내비게이션 서비스를 애용 중이다. 그런데 안내 음성의 대부분을 연예인 본인이 직접 녹음하지 않았다는 사실을 최근에야 알게 됐다. 유명인의 목소리를 AI 딥러닝으로 학습한 가상음성이었던 것. 특유의 목소리 톤과 억양까지 비슷하게 구현한 덕에 크게 이상한 점을 눈치채지 못했다는 게 김 씨의 소감이다.#2. 박 모(52) 씨는 머지않은 시일 내에 상용화될 예정인 AI 서비스를 애타게 기다리고 있다. 바로 고인의 생전 목소리로 대화를 나눌 수 있는 음성 AI 합성 기술이다. 박 씨는 이 서비스가 실제로 출시되면 10년 전 돌아가신 어머니에게 꼭 하고 싶었던 이야기를 전할 생각이다.오디오 시장이 AI와 만나 제2의 전성기를 맞았다. 과거에는 오디오와 AI의 결합을 떠올리면 AI 스피커 정도를 떠올렸다. 하지만 최근 몇 년 사이 AI 기반 오디오 시장의 잠재력이 부쩍 커졌다. 귀로 즐기는 오디오 콘텐츠가 인기를 끌고 있는 최근 트렌드는 AI 오디오 시장을 부추기는 요소다.메타버스 세계관을 만들어 가는 데 AI 음성기술 보유 기업이 필수적이라는 의견도 적지 않게 거론된다. 한 업계 관계자는 “앞으로 메타버스 안에 굉장히 많은 캐릭터들이 존재하게 될 텐데, 그 캐릭터와 메타버스 세계관을 현실감 있게 표현하기 위해서는 소리와 싱크로율을 제대로 구현해내는 게 중요하다”며 “AI 오디오 기술은 앞으로 디지털 시대를 지탱하는
2021.12.27 11:21:00
![[Special] 개성 담은 AI 오디오 시장 ‘급성장’](https://img.hankyung.com/photo/202112/01.28409061.3.jpg)
-
급증하는 ‘딥페이크’ 피해…어디까지가 불법일까[김윤희의 지식재산권 산책]
[지식재산권 산책]오늘날 컴퓨터의 모델이자 인공지능(AI)의 원류로 알려진 ‘튜링 기계’의 고안자인 앨런 튜링은 1950년 튜링 테스트라는 AI 판별 방법을 제안한 바 있다.당시 그는 50년이 지난 뒤에는 5분간 대화를 하면 대화 상대방이 컴퓨터인지 알아챌 확률이 70%가 넘지 않도록 프로그래밍하는 것이 가능할 것이라고 예견했다.튜링이 이런 말을 한 지 약 70년이 지난 현재 우리는 대화 상대방이 컴퓨터 혹은 AI인지 알아챌 수 있을까.문제는 기술이 아니라 이용하는 사람지금까지 튜링 테스트를 통과한 AI가 존재하는지에 대해선 논란이 있다. 하지만 대화가 아닌 영상을 보면 해당 영상이 실재(實在) 인물을 실제 촬영한 것인지, 실재 인물을 합성한 영상인 것인지, 실재하지 않은 인물을 만들어 낸 컴퓨터 그래픽 영상인지 더 이상 구분이 가지 않는다.이를 가능하게 하는 기술이 바로 ‘딥페이크’다. 딥페이크는 AI의 ‘딥러닝’과 거짓을 뜻하는 ‘페이크’의 합성어다.올해 초 할리우드의 유명 배우인 톰 크루즈가 골프를 하거나 여행을 가고 농담을 하거나 마술을 하는 영상이 영상이 모바일 비디오 플랫폼 ‘틱톡’에 올라와 화제를 끌었는데, 진짜 톰 크루즈가 아니라 딥페이크 기술로 만들어진 영상이었다.하지만 틱톡 영상을 보면 진짜 톰 크루즈로 보인다. 영상만 제작하는 것이 아니다. 이미 사망한 가수들의 목소리를 이용해 마치 그들이 새로운 노래를 부르는 것처럼 들리게 하는 딥페이크 음악도 등장했다.한국 케이팝 스타들도 딥페이크 영상의 단골손님이다. 특히 안타깝게도 딥페이크 불법 음란 영상물 속 피해자 25%가 여성 아이돌이라는 네덜란드 디지털보
2021.10.08 06:04:01
![급증하는 ‘딥페이크’ 피해…어디까지가 불법일까[김윤희의 지식재산권 산책]](https://img.hankyung.com/photo/202109/AD.27631877.3.jpg)