월터스는 한 기자가 챗GPT를 활용해 실제 진행 중인 소송에 대한 판결문을 요약하는 과정에서 챗GPT가 기자에게 ‘가짜 고소장’을 통해 완전한 거짓 정보를 제공했다고 주장하고 있다. 실제 소송은 수정헌법 제2조 재단이 워싱턴주 법무장관 밥 퍼거슨을 상대로 제기한 것으로, 월터스는 이 소송에 전혀 관여된 바 없다. 하지만 챗GPT는 “수정헌법 제2조 재단의 설립자가 재단의 '기금 사기 및 횡령'으로 월터스를 고소했다”는 완전한 가상의 사건 요약으로 응답했다. 챗GPT가 기자에게 월터스가 500만 달러(약 64억원)을 횡령했다는 거짓 정보를 제공한 것이다.
이번 사건은 생성형 AI제작업체에 대한 첫 번째 명예훼손 소송으로 세간의 주목을 받고 있다.하지만 이전에도 호주의 한 정치인이 오픈AI에 대한 고소를 추진하고 있다고 밝힌 바 있다. 향후에도 이와 유사한 사례가 쏟아져 나올 가능성이 높다.
멜버른 인근 소도시 ‘햅번 셔’의 시장 브라이언 후드는 지난 4월 “챗GPT가 자신에 대해 ‘2000년대 초 호주에서 벌어진 호주조폐공사(NPA)의 뇌물 사건에 연루됐다’는 잘못된 정보를 제공하고 있다”며 챗GPT 개발사인 오픈AI를 상대로 소송을 추진 중이라는 사실을 밝혔다. 후드 시장은 NPA가 화폐 인쇄 계약을 따내기 위해 외국 공무원들에게 뇌물을 준 사실을 발견해 당국에 신고한 사람이다. 하지만 챗GPT는 오히려 그가 뇌물죄의 당사자라는 정반대의 허위 정보를 내놓은 것이다.
챗GPT와 같은 생성형 AI의 환각(hallucination) 현상은 오래전부터 그 위험성에 대한 경고가 제기되고 있다. AI의 환각 현상은 그럴듯하게 들리지만 사실과 다르거나 주어진 맥락과 무관한 결과물을 생성하는 것을 일컫는다. 더욱 문제가 되는 것은 이와 같은 ‘잘못된 정보’가 표면적으로는 실제 ‘진실된 정보’와 매우 유사한 형태로 제공될 가능성이 높다는 것이다. 생성형AI가 내놓은 정보는 ‘가짜 인용문’과 이를 구성한 ‘출처’를 포함하지 않고 있기 때문에, 진짜 정보와 교묘하게 섞여 있는 거짓 정보를 구별하는 것은 거의 불가능하다.
때문에 AI전문가들은 생성형 AI가 향후 ‘온라인 허위 정보’ 문제를 악화시킬 수 있다고 경고하고 있다. 실제 오픈AI를 비롯한 생성형AI 제작사들은 이와 같은 환각 문제를 해결하기 위한 방안을 개발 중이다. 이와 함께 환각 문제로 인한 부작용을 줄이기 위해 “때때로 잘못된 정보를 생성하거나, 유해한 지침 혹은 편향된 콘텐츠를 생성할 수 있다”는 경고문을 포함하고 있다. 하지만 현재 시점에서 이와 같은 경고 문구 만으로는 생성형AI가 만들어내는 ‘아무말’의 역효과를 막기에는 역부족이라는 시각이 지배적이다.
이정흔 기자 vivajh@hankyung.com
© 매거진한경, 무단전재 및 재배포 금지