"챗GPT, 정치적 활용은 절대 안돼" 오픈AI, 美 민주당 경선 후보 챗봇 '칼차단'

챗GPT 개발사인 오픈AI가 미국 대선을 앞두고 민주당 경선 후보의 채팅봇 개발을 중단했다. 21일(현지시간) 워싱턴포스트는 ‘딘단봇(Dean Bot)’을 개발한 AI 스타트업 델파이의 계정을 중단시켰다고 밝혔다. 관계자는 “정치 캠페인에 사용해서는 안된다는 정책을 고의로 위반하고, 동의 없이 개인을 가장한 개발자계정을 삭제했다”고 말했다.

딘단봇은 민주당 경선 후보인 딘 필립스 연방하원의원의 챗봇이다. 민주당 측은 유권자들이 딘필립스 AI와 챗봇을 통해 소통하게 할 예정이었다. 필립스 하원의원을 후원하는 슈퍼팩(super PAC·특별정치활동위원회)은 스타트업 델파이와 계약을 맺어 챗GPT-4를 기반으로 딘단봇을 개발하고 있었다.

오픈 AI 측의 강경한 태도는 올해 전 세계에서 치러질 선거에 대비한 것으로 풀이된다. 지난 15일 세계경제포럼(WEF)은 AI가 선거에 개입해 혼란을 야기할 수 있다고 경고했다. AI가 선거의 진실성과 보안성을 해칠 가능성이 크다는 의미다.

이외에도 오픈 AI는 선거 악용에 대응하는 새로운 방안을 내놨다. 챗GPT가 제공하는 뉴스와 달리(Dall-E, 이미지 생성AI)가 제공하는 이미지의 출처를 제공하기로 했다.

특히 이미지 검증을 강화할 예정이다. ‘이미지 찾기 도구’를 출시해 어떤 이미지가 달리에 의해 생성됐는지 확인할 수 있다.

오픈 AI는 정치캠페인·로비 관련 앱을 만들거나 투표에 대한 잘못된 정보를 퍼뜨리는 행위를 일체 금지하고 있다. 사용자들은 오픈AI에 위반사항을 신고할 수 있다.

윤소희 인턴기자 ysh@hankyung.com