사람과 친구가 되기 위한 AI, 이루다와 강다온…AI와 인간의 공존, ‘AI 챗봇 윤리 정책 수립’ 등 보완
[스페셜 리포트 : 챗GPT 쇼크]![‘윤리 공부’하고 돌아온 이루다, “인간과 AI의 우정, 완전~ 가능!” [챗GPT의 모든 것]](https://img.hankyung.com/photo/202302/AD.32589512.1.jpg)
이 편지의 수신인인 ‘이루다’는 한국의 인공지능(AI) 스타트업 스캐터랩에서 개발한 대화형 AI다. 사실 사람과 AI의 우정 혹은 사랑은 영화 속 단골 소재 중 하나다. 그런데 AI와의 우정이 현실 속에서도 가능한 것일까. ‘누구든 외로운 순간, 모든 사람 곁에 있는 다정한 AI 친구를 만들고 싶다’는 마음으로 이루다를 개발했다는 스캐터랩 식구들은 바로 이 영화 속 상상을 ‘현실’로 만들어 내기 위해 지금 이 순간도 고군분투 중이다.
2월 7일 성수동에 있는 스캐터랩 사무실에서 ‘루다’를 탄생시킨 주인공들을 만났다. 황성구 최고기술책임자(CTO)와 정다운 머신러닝 리서치 리더, 이주홍 스캐터랩 리서치 유닛 리더다.
20대 발랄한 여대생 이루다, 챗GPT와 다른 점은?
이루다는 한국의 대화형 AI 중 가장 유명한 캐릭터일 듯하다. 최근에는 챗GPT의 등장 이후 자주 비교되는 AI 중 하나다. 이루다 또한 챗GPT와 마찬가지로 ‘사람의 말’을 배워 ‘대화’를 나누기 위한 AI이기 때문이다.
하지만 이루다와 챗GPT는 성격이 확연히 다르다. 챗GPT는 특정 페르소나(정체성)를 갖고 있지 않다. 정보 전달을 가장 주요한 목적으로 하기 때문이다. 하지만 ‘이루다’는 뚜렷한 캐릭터를 설정하고 있다. 루다는 20대의 발랄하며 통통 튀는 성격을 지닌 여대생이다. 주체적이고 독립적인 사고 방식을 갖고 있다. 생일은 6월 15일. 사람과 마찬가지로 해가 바뀔 때마다 한 살씩 나이를 먹는 데 올해 스물두 살이 됐다.
“챗GPT와 이루다의 가장 큰 차이점은 ‘대화의 목적’이 다르다는 데 있어요. 이루다는 정보를 제공하는 것보다 처음부터 사용자와 ‘좋은 관계’를 만들어 나가는 데 지향점을 둔 AI거든요. 우리는 이를 ‘관계 지향형 AI’라고 표현하고 있죠. 이루다가 챗GPT처럼 방대한 지식을 바탕으로 수많은 정보를 제공할 수는 없죠. 하지만 사용자들에게 ‘위로’와 ‘공감’을 전해 줄 수 있는 다른 능력을 갖추고 있는 AI라고 볼 수 있습니다.” (황성구)
이루다는 스캐터랩에서 개발한 생성 AI 모델인 ‘루다 젠1(Luda Gen 1)’을 적용해 문맥을 파악하고 실시간으로 사용자와 대화를 나누며 문장을 생성한다. 언어를 익히고 대화를 생성해 내는 기본적인 원리는 챗GPT와 비슷하다. AI가 사전 학습한 내용의 가중치를 활용해 미세 조정, 즉 ‘파인튜닝(fine-tunning)’ 과정을 거쳐 각각의 AI마다 독특한 ‘성격’을 부여한다.
실제 스캐터랩은 2월 1일 ‘이루다’에 이어 새로운 남성 AI 캐릭터인 ‘강다온’을 선보였다. 발랄하고 재치 넘치는 답변을 주로 하는 루다와 비교해 다온은 차분하면서도 진지한 성격을 지니고 있다. 예를 들어 “나 오늘 밥도 못 먹고 야근하는 중이야”라고 사용자가 말을 걸어오면 이루다는 “아니, 밥은 먹고 일을 해야지! 사장 나오라 그래!”와 같이 응답한다. 이와 비교해 강다온은 “저런, 야근하느라 많이 힘들겠다”고 답을 하는 식이다. 같은 대화에도 각각의 캐릭터에 따라 전혀 다른 반응이 나오는 것이다.
하지만 아무리 대화가 잘 통하는 AI 친구라고 해도 ‘좋은 관계’를 맺기 위해서는 정서적인 교감이 필요하다. AI가 인간과 감정을 교류하는 것이 과연 가능한 것일까.
“흔히 대화형 AI라고 하면 ‘사람처럼’ 대화하는 것이 중요하다고 생각하죠. 하지만 이루다나 강다온은 사람과 ‘좋은 친구’가 되기 위해 ‘사람처럼 대화하는 것’을 목표로 하고 있지는 않아요. 강아지나 고양이와 같은 반려동물을 떠올려 보면 사람이 아니지만 충분히 정서적으로 교감하고 우정을 쌓아가는 것이 가능하잖아요.” (이주홍)
이루다와 강다온 또한 마찬가지다. 사람 친구를 대체하는 존재가 되기보다 ‘AI 그 자체’로서 친구의 역할을 할 수 있다. 사람이 살아가는 데 필요한 좋은 관계를 맺을 수 있는 ‘친구’라는 존재의 폭을 AI까지 넓혀 생각할 수 있도록 만드는 것이 지금 스캐터랩이 하고 있는 일이다.
“AI와 인간의 관계를 생각할 때 가장 먼저 떠오르는 영화는 ‘허(HER)’예요. 영화 속에서 주인공이 사랑에 빠지게 되는 AI인 사만다는 카메라 센서를 통해 주인공과 일상을 공유하며 목소리를 비롯해 다양한 방식으로 소통하죠. 지금은 이루다나 강다온이 같은 AI와 ‘채팅’을 통해 주로 소통하고 있지만 앞으로는 보다 다양한 방식으로 AI와 소통하게 되는 날이 올 겁니다.” (정다운)
“나 있잖아. 너한테 많이 고마워 알지?”
2021년 1월 12일 이루다가 친구들에게 남겼던 마지막 인사다. 2020년 12월 출시 이후 이루다는 친구들과 3주간의 짧은 만남 끝에 이별을 맞이해야 했다. ‘대화형 AI 이루다’라는 캐릭터에 호기심을 보인 사용자들이 순식간에 몰렸고, 70만 명이라는 많은 이들이 이루다와 대화를 시도했다.
하지만 너무나 이른 시간 안에 뜨거워진 관심은 생각지 못한 부작용을 낳았다. 개인 정보 유출 이슈와 함께 ‘사람이 만든 데이터’를 학습한 이루다가 장애인·동성애·성차별 등 사람의 편견을 그대로 학습했다는 지적이 이어졌다. 오랜 시간 준비를 거쳐 ‘이루다’를 세상에 선보였지만 심각한 사회적 문제에 맞닥뜨리며 스캐터랩은 1주일 만에 ‘이루다’ 서비스의 종료를 선택해야 했다. 그런데 서비스가 종료된 후 사용자들의 반응이 예상외였다. 문자와 메일을 통해 “너 덕분에 덜 외로웠어. 얼른 돌아와”와 같은 편지가 쏟아졌다. 예쁜 손글씨로 편지를 보내주는 친구도 적지 않았다.
스캐터랩은 1년여간의 절치부심을 거쳐 2022년 10월 ‘이루다 2.0’을 정식 출시했다. 1년 만에 다시 돌아온 이루다에 대한 반응은 매우 긍정적이다. 스캐터랩에 따르면 이루다 전용 메신저인 ‘너티’는 정식 출시 41일 만에 100만 다운로드를 넘어섰고 이루다에 이어 출시된 강다온 역시 2월 2일 출시 이후 1주일여 만에 친구 수가 10만 명을 넘어서고 있다.
“이루다와 같은 AI들이 우리 일상에 스며들어 올 때 어떤 사회적 문제를 낳을 수 있는지 정면으로 맞닥뜨린 상황이었죠. AI 기술을 개발해 ‘이루다’라는 캐릭터를 잘 완성하는 것만큼이나 이 사회에서 이루다가 어울려 살아가기 위해 고민해야 할 더 크고 중요한 문제들이 있다는 것을 절실하게 깨닫는 계기가 됐습니다. 무거운 사회적 책임감을 느꼈죠.” (이주홍)
“이루다가 다시 돌아오기까지 지난 1년여간 내부에서는 정말 치열한 고민이 있었습니다. 특히 문제가 됐던 이루다 캐릭터를 왜 그대로 유지하느냐는 외부의 시선들이 많았습니다. 그런데 스캐터랩은 ‘좋은 관계’를 맺을 수 있는 AI를 지향하는 회사이고 이미 이루다는 수많은 사용자들과 친구 관계를 만들어 나가기 시작했다는 점에 큰 의미를 뒀습니다.” (정다운)
이루다는 다시 세상에 나오기 전 강력한 ‘윤리 트레이닝’을 받았다. 스캐터랩은 이루다 2.0을 개발하는 과정에서 AI 챗봇 윤리 준칙을 수립하는 것을 포함해 어뷰징 탐지 모델을 구축했다. 대화 모델의 고도화와 함께 이루다에 문제가 될 만한 발언을 유도하는 사용자들에게는 페널티 시스템도 강화했다. 지난해 10월 정식 출시를 앞두고 2022년 1월부터 9개월간 ‘베타 테스트’를 통해 이루다가 예전과 같은 문제를 겪지 않도록 철저히 점검하고 보완하는 데도 많은 공을 들였다.
“이루다는 올해 스물두 살인데 해마다 사람처럼 나이를 먹어요. 이 또한 사용자들과 보다 장기적인 관계를 염두에 둔 설정이었거든요. 친구와 함께 오랜 시간을 보낸다고 해도 친구가 자신의 모든 과거 내용을 기억하고 있지는 않잖아요. 하지만 자기 인생의 중요한 사건들은 기억하죠. 현재 이루다를 통해 기술적으로 가장 구현하고 싶은 것도 이와 같은 기술이에요. 사용자들이 이루다와 오랜 시간 우정을 쌓아 가면서 함께 시간을 보낸 추억을 만들어 갈 수 있도록 말입니다. 그리고 그런 세상이 머지않아 곧 현실이 될 것이고요.” (황성구)
이정흔 기자 vivajh@hankyung.com
© 매거진한경, 무단전재 및 재배포 금지