텍스트 몇 줄에 무너진 현실 경계
“진짜 사람인 줄 알았어요.”최근 인스타그램, X(구 트위터) 등 소셜네트워크서비스(SNS)를 중심으로 실제 사람과 구분하기 힘든 실사형 AI 크리에이터 계정이 급증하고 있다. 인스타그램을 스크롤하다 보면 정교하게 촬영된 듯한 신체 노출 이미지를 쉽게 마주하지만, 그중 일부는 가상의 존재다. 일부 AI 계정들이 신체를 강조한 고수위 이미지를 의도적으로 생성해 수익을 창출하는 ‘노출 AI 인플루언서’로 활동하기 시작한 것이다.
과거에는 3D 모델링이나 전문 그래픽 소프트웨어를 다루는 정교한 기술이 필요했던 가상 인플루언서 제작이 이제는 텍스트 프롬프트 몇 줄만으로 가능해졌다. 생성형 AI 서비스의 대중화가 가져온 현실이다.
실제 직접 대중적인 AI 앱을 활용해 프롬프트를 입력해 보았다. 놀랍게도 단 몇 분 만에 실제 남성의 모습부터 여성 이미지까지 현실과 분간하기 어려운 고품질의 가상 인물이 화면에 나타났다. 마음만 먹으면 얼마든지 고수위 사진을 손쉽게 제작할 수 있는 환경이 조성된 것이다.
이 같은 현상에 대해 김수아 서울대학교 언론정보학과 교수는 “개인이 자신의 신체 이미지를 올리거나 타인의 이미지를 도용하는 것에 비해 새롭게 생성 가능한 이미지를 무한히 올리는 게 가능해졌다”며 “AI로 인해 신체의 성적 대상화된 이미지에 더 많이 노출될 경우, 이에 대해 문제의식을 느끼지 못하는 상황이 될 수 있다”라고 진단했다.
노출 AI 인플루언서 계정이 굴리는 자본의 메커니즘은 정교하다. 이 구조의 핵심은 인스타그램을 일종의 ‘무료 광고판’으로 활용한다는 점이다. 계정 운영자들은 매우 비정상적으로 여성의 특정 신체 부위를 과도하게 왜곡한 고수위 이미지들을 SNS에 올려 불특정 다수의 팔로우를 끌어모으는 ‘후킹(Hooking)’ 전략을 펼친다.
이후 유료 결제로 유입시키는 경로는 크게 두 가지다. 프로필에 팬트리(Fantrie), 온리팬스(OnlyFans), 패트리온(Patreon) 등 성인용 콘텐츠 유료 구독 플랫폼의 링크를 삽입해 유입시키거나, 인스타그램 자체 구독자 전용 콘텐츠 기능을 통해 플랫폼 안에서 직접 유료 콘텐츠를 제공하는 방식이다.
임소연 동아대학교 융합대학 교수는 "여성의 신체를 성적으로 재현하는 것이 돈이 되는 '혐오 경제'는 원래 있었고, AI 기술은 이것을 훨씬 더 쉽게 만든 것"이라며 "기술적으로도 비용적으로도 신체 이미지 생성이 너무나 쉬워졌다는 것이 핵심"이라고 본질을 짚었다.
법 있지만 ‘빈틈’도 있다
올해 1월 22일부터 정부에서는 인공지능기본법을 시행하며 생성형 AI로 만들어진 결과물임을 이용자가 인식할 수 있도록 고지 의무를 부과했다. 그러나 실제 SNS 계정들을 살펴보면 고지 여부와 방식이 제각각이다. 일부 계정은 #aigc, #virtualinfluencer 등 영문 해시태그로 표기하고 있는데, 일반 이용자 중에서 ‘aigc(Artificial Intelligence Generated Content)’의 정확한 의미를 아는 이는 드물다. 이외의 다수 계정은 아예 AI 생성물임을 표기하지 않거나, 다른 해시태그들 뒤에 눈에 띄지 않게 삽입한 것이 빈번하게 확인됐다.
임창국 법무법인 원 변호사(인플루언서 지원센터)는 “인플루언서가 생성형 AI를 이용해 만든 영상·이미지 등을 판매하거나 광고에 이용하는 경우 법상 '인공지능사업자'에 해당하여 고지 의무가 발생할 수 있다”라고 명확히 짚었다.
그러나 현행법 체계에는 뚜렷한 한계가 존재한다. 이미지나 영상을 AI로 생성했음을 고지하는방식에 대해 ‘인공지능 발전과 신뢰 기반 조성 등에 관한 기본법’은 이용자가 적절하게 인식할 수 있는 방식으로 표시하도록 규정하고 있을 뿐, 강제성 있는 고정 형식을 따로 정해두지 않았기 때문이다.
게다가 실존 인물이 아닌 가상의 인물 이미지는 처벌 수위도 상대적으로 낮다. 임 변호사는 “AI로 생성한 이미지라도 법상 음란물로 인정되면 정보통신망법 등에 의해 처벌할 수 있고, 만약 아동·청소년으로 인식될 수 있는 표현물이라면 아청법 위반으로 강력히 처벌된다”라고 설명했다.
그럼에도 법적 공백은 여전하다. 특정인의 얼굴이나 신체를 합성하는 딥페이크 범죄는 ‘성폭력처벌법(허위영상물 유포)'으로 중하게 처벌되지만, 이는 합성 대상인 '실존 인물'이 있어야만 성립하는 것이다. 결국 실존 피해자가 없는 ’순수한 AI 가상 인물‘의 노출 이미지는 성폭력처벌법이 아닌, 상대적으로 처벌 수위가 낮은 정보통신망법의 적용을 받는다. 이 경우 유통 시 1년 이하의 징역 또는 1천만 원 이하의 벌금형에 그치는 데다, 고발이나 수사 개시 자체가 쉽지 않고 설령 수사가 시작되더라도 해외 플랫폼의 유포자를 추적하기도 어렵다는 분석이다.
향후 미디어와 기술학계가 주목해야 할 진짜 대안은 무엇일까. 전문가들은 단순히 지면 위에 ‘AI 생성물’임을 표기하느냐 마느냐의 차원을 넘어서야 한다고 입을 모은다. AI 생성 여부 고지보다 앞서, 그 이미지 자체의 생산과 유통이 왜 문제인지에 대한 사회적 논의가 먼저 이루어져야 한다는 뜻이다.
김수아 교수는 “최근 호주 온라인 안전국이나 한국의 방송통신심의위원회도 참여하고 있는 흐름의 핵심은 ‘AI의 누드 이미지 생성 도구 자체를 반대하는 것’이다”라며 “이제는 AI라고 표기하라고 요청하는 것 자체가 본질적인 논쟁 쟁점이 아니다”라고 짚었다.
시선은 유통 창구인 '플랫폼'의 책임으로 향한다. 임창국 변호사는 “AI 생성 음란물 유포를 억제하기 위해서는 플랫폼이 더 적극적으로 유통을 차단하도록 법적 의무를 부과하고, 위반 시 강력한 형사·행정적 불이익을 주도록 제도를 보완하는 것이 가장 효과적”이라고 제언했다. 다만 임 변호사는 “새로운 플랫폼을 통해 음란물이 유포되는 경우가 끊임없이 발생하므로 이러한 제도적·법적 보완만으로는 충분하지 않다”라며 “성을 상품화하는 문화를 반성하고 성에 대한 올바른 인식을 갖도록 교육을 강화하는 사회적 운동이 활성화될 필요가 있다”라고 덧붙였다.
임소연 교수 역시 “기술의 자본화 속도를 법과 윤리가 완벽히 따라잡기는 어렵지만, 미디어는 이러한 기술 활용을 비판하는 목소리를 더 크게 내야 한다”라면서 “플랫폼의 책임을 지금보다 훨씬 더 엄중하게 논의하고 법적으로 규율해야 한다”라고 강조했다.
강홍민 기자 khm@hankyung.com
[이서영 대학생 기자]
© 한경매거진&북, 무단전재 및 재배포 금지