-
"챗GPT의 '아무말'에 범죄자 됐다"...명예훼손으로 고소당한 오픈AI
챗GPT의 제작사인 오픈AI가 생성형AI의 ‘환각’ 현상으로 인해 생성된 가짜 뉴스로 인해 명예훼손으로 고소를 당했다. 블룸버그 법률은 지난 6월 8일 라디오 진행자인 마크 월터스가 미 조지아주 법원에 오픈AI에 대한 명예훼손 소송을 제기했다고 보도했다.월터스는 한 기자가 챗GPT를 활용해 실제 진행 중인 소송에 대한 판결문을 요약하는 과정에서 챗GPT가 기자에게 ‘가짜 고소장’을 통해 완전한 거짓 정보를 제공했다고 주장하고 있다. 실제 소송은 수정헌법 제2조 재단이 워싱턴주 법무장관 밥 퍼거슨을 상대로 제기한 것으로, 월터스는 이 소송에 전혀 관여된 바 없다. 하지만 챗GPT는 “수정헌법 제2조 재단의 설립자가 재단의 '기금 사기 및 횡령'으로 월터스를 고소했다”는 완전한 가상의 사건 요약으로 응답했다. 챗GPT가 기자에게 월터스가 500만 달러(약 64억원)을 횡령했다는 거짓 정보를 제공한 것이다.이번 사건은 생성형 AI제작업체에 대한 첫 번째 명예훼손 소송으로 세간의 주목을 받고 있다.하지만 이전에도 호주의 한 정치인이 오픈AI에 대한 고소를 추진하고 있다고 밝힌 바 있다. 향후에도 이와 유사한 사례가 쏟아져 나올 가능성이 높다.멜버른 인근 소도시 ‘햅번 셔’의 시장 브라이언 후드는 지난 4월 “챗GPT가 자신에 대해 ‘2000년대 초 호주에서 벌어진 호주조폐공사(NPA)의 뇌물 사건에 연루됐다’는 잘못된 정보를 제공하고 있다”며 챗GPT 개발사인 오픈AI를 상대로 소송을 추진 중이라는 사실을 밝혔다. 후드 시장은 NPA가 화폐 인쇄 계약을 따내기 위해 외국 공무원들에게 뇌물을 준 사실을 발견해 당국에 신고한 사람이다. 하지만 챗GPT는 오히려 그가 뇌물죄의 당사자라는 정반대의 허
2023.06.12 16:22:44
-
"바드는 멀티버스 찾아주는 검색엔진?”…AI 챗봇의 ‘환각’, 극복할 수 있을까?
구글이 지난 5월10일 연례개발자회의(I/O)를 통해 전면 오픈한 바드에 대한 관심이 이어지고 있다. 하지만 AI 챗봇의 고질적 문제인 ‘환각(할루시네이션)’ 현상이 여전히 걸림돌이 되고 있다.“세종대왕이 맥북을 던졌다는 말은 사실이 아닙니다. 세종대왕이 맥북을 던졌다는 이야기는 챗봇인 챗GPT가 만든 가상의 이야기입니다.”구글이 챗GPT 대항마로 선보인 바드에게 ‘세종대왕 맥북 던짐 사건’에 대해 질문하자 바드가 건넨 대답이다. ‘세종대왕 맥북 던짐 사건’은 챗GPT와 같은 AI(인공지능) 챗봇의 고질적인 문제인 ‘환각(할루시네이션)’ 현상의 대표적인 사례다.같은 질문에 챗GPT는 “세종대왕의 맥북프로 던짐 사건은 조선왕조실록에 기록된 일화로, 15세기 세종대왕이 새로 개발한 훈민정음(한글)의 초고를 작성하던 중 문서 작성 중단에 대해 담당자에게 분노해 맥북프로와 함께 그를 방으로 던진 사건입니다”고 답한 바 있다. 이와 같은 챗GPT의 ‘유려한 거짓말’은 한 동안 ‘밈’으로 유행하기도 했었다.하지만 ‘세종대왕 맥북프로 던짐 사건’이 챗GPT가 만들어 낸 거짓말이라는 것을 정확하게 알고 있는 바드 또한 챗GPT와 같은 ‘거짓말 논란’은 피하지 못하고 있다. 예를 들어, 바드에게 “OOO라는 사람에 대해 알려줘”라고 질문을 하면 바드는 꽤 길고 그럴듯한 경력과 업계 내 평판을 들려준다. 하지만 바드가 건네는 정보의 대부분이 ‘틀린 정보’다. 성별이 남자인 교수를 ‘여성’이라고 우기거나 입사 혹은 창업 년도에 대한 정보를 잘못 제공하는 경우가 허다하다.“OOO 기업에 대해서 알려줘”라고 질문을 하면 첫번째 대답에서는 “공동창업자인 A와 B, C가 2015년에 설립했다”
2023.05.14 14:03:48
