SNS 플랫폼 둔 무책임한 기업과 정부
근거 없는 루머를 비롯해 악의적인 표현을 내세운 콘텐츠가 높은 조회 수와 수익을 창출하며, 플랫폼과 콘텐츠 제작자가 이로 이익을 얻는 구조가 방치되고 있다. 이용자들의 피해가 계속되는 동안, 플랫폼과 정부는 사실상 손을 놓고 있다는 비판을 받는다. 혐오가 돈이 되는 시대, SNS 플랫폼과 정부의 책임은 어디까지일까.
비상계엄 이후 과열된 혐오성 콘텐츠
“아이유는 화교” 언뜻 보면 황당한 이 문장은, 가수 아이유가 윤 정권 탄핵 집회에 선결제한 이후 극우 유튜버들이 퍼트린 수많은 루머 중 하나다. 언뜻 보면 아무도 믿지 않을 것 같은 정보지만 SNS를 통한 선동과 날조는 현재도 이어지고 있다. 비상계엄 사태 이후 극우 유튜버들의 루머 표출은 날이 갈수록 심해지는 상황이다.
극우 유튜버가 루머를 계속 퍼트리는 이유는 단 하나, 그것이 돈이 되기 때문이다. 2월 16일, 국회 기획재정위 소속 정일영 의원(더불어민주당)은 유튜브 채널 분석 서비스 ‘플레이보드’로 극우 성향 유튜브 채널 10곳을 분석한 결과를 발표했다. 비상계엄 사태 이후 두 달간 슈퍼챗(유튜브 생방송에서 시청자가 유튜버에게 후원금을 보내는 시스템)을 통해 벌어들인 수입이 6억 원을 넘겼다는 것이다.
극우 유튜버들이 문제 되는 이유는 그들의 정치적 의사에 있는 것이 아니다. 더 극단적인 발언과 루머 표출로 수입을 남기려는 그들의 의도에 있다. 앞선 예시처럼 윤 대통령 탄핵 시위에 기부한 연예인의 루머를 유포할 뿐 아니라, 서부지법 폭동 사태를 유도하고 이를 생중계하는 자극적인 행태로 수익을 창출했다.
그는 검증되지 않은 루머를 업로드하고, 이 과정에서 반박 댓글은 삭제하고 자신의 주장을 옹호하는 댓글만 남기며 사람들이 마치 루머가 모두 사실이라고 믿게 했다. 또한 유튜브의 고정 수입 정책인 채널 멤버십을 개설해 등급별 전용 영상을 만들어 추가적인 금전적 이득을 취했다.
다수의 보도에 따르면 2021년 10월부터 2023년 6월 23일 채널 폐쇄 전까지 누적 조회수 1억 6,000만 회를 기록했으며, 추정 수익은 억 단위에 이른다. 최근에는 특정 인물에 대한 부정적 이슈를 퍼트리는 기업 명의의 계정들이 발각되며 ‘역바이럴’ 문제도 지적됐다.
혐오로 돈을 벌려는 행태의 영상들이 떠돌며 엔터테이먼트 업계 팬덤 또한 힘든 시기를 보내고 있다.
케이팝 유튜브 채널 ‘마군입니다(구독자 수 5.97만 명, 총조회수 약 3억 회)’의 운영자인 마군 씨는 한 명의 콘텐츠 소비자로서 할 수 있는 노력이 선플과 신고뿐이라는 것에 역부족을 느껴 유튜브 채널을 개설했다.
그는 “긍정적인 콘텐츠로도 얼마든지 즐거운 공론장을 만들 수 있다는 것을 증명하고 싶었다”며 꾸준히 유튜브에 케이팝 관련 영상을 업로드하고 있다.
아이돌 그룹 르세라핌의 팬 계정인 ‘리세라필름(구독자 수 10.1만 명, 총 조회수 약 5억 회)’의 운영자는 “지난 1년간 근거 없는 루머들로 인해 지속적으로 채널 내 악플이 달리고 있다”며 “내가 사랑하는 사람에게 쏟아내는 증오를 직접 마주하는 것이 가장 큰 불편함”이라 전했다.
이에 유튜브 내 아이돌 혐오 표현을 방지하기 위한 개인들의 노력도 다양하다.
고아름(동국대 법학·2) 씨는 “혐오성 콘텐츠가 알고리즘을 통해 추천되면 관심 없음이나 신고를 누르고 넘긴다”며 “의식적으로 혐오성 콘텐츠를 클릭하지 않는다”고 말했다. 유튜브 ‘마군입니다’와 ‘리세라필름’은 모두 루머에 대응하는 영상을 만들고 있다. 리세라필름의 운영자는 “대중들이 단순히 누군가가 사회적으로 매장당하는 것에 재미를 느끼기 때문에 이런 극단적인 콘텐츠가 성행하는 거 같다”며 “금지어 설정을 통해 부정적 키워드를 일차적으로 필터링하고, 이에 걸리지 않는 댓글들은 직접 삭제한다”고 전했다.
각 SNS 플랫폼은 가이드라인을 두고 이런 악성 콘텐츠를 막겠다고 명시하고 있다. 하지만 가이드라인이 사실상 플랫폼이 규제를 피하기 위한 명분이라는 비판이 나온다. 정해둔 규약을 위반한 영상임에도 제재가 이뤄지는 경우가 드물고, 시정 요구가 즉각적으로 이뤄지지 않으며 플랫폼 자체 심사 기준도 명확하지 않기 때문이다.
이에 SNS 플랫폼이 사용자의 이용 지속 시간을 늘리려 의도적으로 혐오 콘텐츠를 방조하는 것이 아니냐는 지적도 있다.
유화정 동국대 사회학과 교수 “SNS 플랫폼의 알고리즘은 사용자 참여를 극대화하는 방식으로 설계돼 있어 분노와 갈등을 유발하는 콘텐츠가 더 많은 주목을 받게 된다”며 “플랫폼은 혐오 콘텐츠의 확산을 억제할 수 있는 ‘디엠플리케이션(de-amplification)’ 기법 사용 등 알고리즘 조정을 적극적으로 도입해야 한다”고 전했다.
주류 SNS 플랫폼이 대부분 해외 기업 운영으로 자율 규제에 한계가 있는 것 또한 사실이다. 유튜브 코리아 서포트팀 관계자는 “규제를 담당하는 부서가 해외에 자리 잡고 있을뿐더러 관련 조치에 대해 별도 소통을 진행하고 있지 않다”며 “어떠한 기준과 사유가 필요한지, 어떤 시스템을 구성하고 있는지 등 상세한 내용은 확인이 불가하다”고 전했다.
이렇듯 플랫폼의 자율 규제가 가진 한계가 명확한 탓에 이미 여러 국가에서는 플랫폼에 대한 공적 규제 법안이 발의됐다. 독일·영국·유럽연합·싱가포르 등은 현재 온라인 허위 정보에 대한 규제 법안을 두고 있다. 유럽연합은 ‘디지털 서비스법(DSA)’으로 플랫폼의 신속한 조치와 투명한 알고리즘 운영을 법적으로 의무화하고 있으며, 이를 위반했을 땐 전 세계 매출의 최대 6%에 달하는 과징금을 부과할 수 있다. 독일은 ‘네트워크 집행법(NetzDG)’을 통해 SNS 기업이 혐오 표현을 신속히 삭제하지 않으면 벌금을 부과하는 법률로 SNS 플랫폼을 관리한다.
이에 비해 한국은 SNS 플랫폼의 규제를 자율에 맡겨 혐오 콘텐츠 관리에 어려움이 있다. 여성가족부가 발표한 ‘2021~2024년 6월 국내외 플랫폼 사업자 자율규제 활성화 지원 현황’ 자료에 따르면, 정부가 플랫폼 사업자에게 자율규제를 요청한 불법·유해 정보 중 연간 약 13만 건에서 22만 건이 미조치됐다. 이에 방송통신위원회는 2024년 11월 유럽연합의 디지털 서비스법(DSA)을 기반으로 한 ‘온라인서비스 이용자보호법’을 추진한다고 밝혔다. 그러나 이마저 미국의 트럼프 대통령 취임 이후, 미국 빅테크 기업에 디지털세를 부과하면 보복관세를 부과할 수 있다는 경고로 제동이 걸린 상황이다.
이런 상황 속 규제의 필요성에 대해 유 교수는 “온라인 혐오 콘텐츠의 확산은 단순한 인터넷상의 문제를 넘어 오프라인 사회에 심각한 영향을 미치고 있다”며 “실제로 여러 국가에서 온라인 혐오 발언이 증가한 이후 특정 소수자 집단을 대상으로 한 폭력 사건이 급증한 사례가 보고되고 있다”고 전했다. 이어 그는 “규제를 통해 플랫폼의 투명성을 강화하고 윤리적 책임을 증대한 방향으로 나아가야 한다”고 주장했다.
SNS의 영향력은 그 어느 때보다 커졌다. 플랫폼과 정부가 ‘혐오가 돈이 되는’ 세태를 끊기 위한 실제 움직임이 필요한 시점이다.
강홍민 기자 khm@hankyung.com
[권구봉 대학생 기자]
© 매거진한경, 무단전재 및 재배포 금지