누구나 만드는 가짜 현실, 웃음 뒤에 남은 공포
“누구나 만들 수 있는 가짜 현실”… 확산하는 AI 몰카
‘AI 몰카’는 인공지능 이미지 생성기를 이용해 존재하지 않는 사람이나 상황을 실제처럼 합성하는 장난 콘텐츠를 뜻한다. 예를 들어 사용자가 “거실에 낯선 남성이 서 있는 모습”이라는 문장을 입력하면, AI가 실제 사진과 구별하기 어려운 이미지를 만들어낸다. 이를 가족에게 “집에 이상한 사람이 들어왔어”라는 메시지와 함께 전송한 뒤, 놀라는 반응을 촬영해 SNS에 게시하는 식이다.
이 과정에는 구글의 ‘제미나이(Gemini)’, 오픈AI의 ‘챗GPT’, 미드저니(Midjourney) 등 생성형 AI 모델이 주로 사용된다. 복잡한 편집 기술 없이도 현실감 있는 장면을 몇 초 만에 제작할 수 있어, 일반 이용자들도 손쉽게 이미지를 만들어 유포할 수 있다.
“웃자고 만든 콘텐츠가 공포로”… 실제 피해 잇따라
이 같은 영상은 ‘재미’로 포장되지만, 실제 피해는 심각하다. 가족이나 연인이 실제 상황으로 오인해 경찰에 신고하는 사례가 발생하고 있기 때문이다. 허위신고로 인한 인력 낭비와 긴급상황 대응 지연 등 사회적 비용이 뒤따를 수 있다는 지적이 나온다.
실제로 미국과 영국 등에서는 AI 몰카로 인한 경찰 출동 사례가 잇따르고 있다. 영국 도싯주 경찰은 지난 9월, 한 부모가 “딸이 혼자 있는 집에 낯선 남성이 침입했다”고 신고해 출동했으나, 확인 결과 딸이 AI 합성 이미지를 이용해 만든 장난으로 밝혀졌다.
국내에서도 ‘부모님 속이기’, ‘남자친구 속이기’ 등 이름으로 비슷한 영상이 빠르게 확산하고 있다. 일부 영상은 조회 수가 수백만 회를 넘어 인스타그램·틱톡·유튜브 쇼츠 등에서 ‘밈’ 형태로 소비되고 있다.
기자가 대학생 52명을 대상으로 진행한 인식 조사에서도 “AI 장난 콘텐츠를 자주 본다”는 응답이 71.4%에 달했다. 응답자의 절반 이상은 “AI 콘텐츠가 명백히 문제적이다”고 답했으며, “누군가 다칠 수도 있다”, “AI가 너무 진짜 같아서 무섭다”는 의견이 많았다. 반면 일부는 “다른 사람들이 하니까 나도 해봤다”, “알고리즘이 계속 비슷한 영상을 추천한다”는 반응을 보이기도 했다.
규제 공백 속 확산… 플랫폼 대응도 미비
현재 국내에는 AI 합성 장난을 직접 규제하는 법적 근거가 없다. 허위신고로 경찰이 출동한 경우에만 ‘업무방해죄’나 ‘허위신고죄’로 처벌이 가능하지만, 장난 그 자체를 제재할 법적 장치는 부족한 실정이다.
SNS 플랫폼 역시 ‘AI 생성 콘텐츠’ 표시 의무나 경고 문구 도입이 이뤄지지 않아 유사 콘텐츠가 무분별하게 퍼지고 있다. 영상 업로드 시 ‘AI 합성물 포함’ 표기 의무화나, ‘가짜 상황’ 영상에 자동 경고 문구를 부착하는 방안이 필요하다는 지적이 나온다. 앞선 조사에서 응답자 61.9%는 AI 합성 장난에 대한 제도적 대응이 필요하다고 답했다. 구체적으로는 플랫폼의 신고·차단 시스템 강화(61.9%), 법적 처벌 및 제도 마련(57.1%), AI 윤리 교육 강화(42.9%) 등을 개선 과제로 꼽았다. 일부는 “AI 생성 이미지에는 워터마크를 의무적으로 삽입해, 사람이 만든 콘텐츠와 구별되도록 해야 한다”는 의견도 제시했다.
가짜 현실의 시대, 필요한 것은 ‘AI 윤리’
AI 몰카는 기술의 문제가 아니라 사용 태도의 문제다. 생성형 AI는 사진 편집, 콘텐츠 제작 등 다양한 창의적 활용이 가능하지만, 누군가에게 공포와 혼란을 주는 데 쓰일 때는 사회적 위험으로 변한다. 웃음을 위한 장난이 누군가에게 공포가 되고, 한 통의 허위신고가 사회적 자원 낭비로 이어질 수 있다는 점에서 결코 가볍지 않다.
강홍민 기자 khm@hankyung.com
[방민우 대학생 기자]
© 매거진한경, 무단전재 및 재배포 금지