“미국은 10대 소년의 손에서 자동 소총을 빼앗는 것조차 의견을 모으지 못한다. 인공지능(AI)의 위험에 대해 공동으로 대처하는 것은 난제일 수밖에 없다.”
‘인공지능의 아버지’로 불리는 제프리 힌턴 박사의 말이다. 그는 “AI는 핵무기와 같은 힘을 갖고 있다. 평생 한 AI 연구를 후회한다”고도 했다. 인류에게 재앙이 될 수 있다는 ‘AI의 대부’가 한 경고였다.
지난 5월 구글을 그만두면서 한 경고는 일반인들에게는 와닿지 않았다. 챗GPT가 가져다 준 효능감은 눈앞에 있었고, 재앙은 공상과학 영화에나 나오는 일이라 생각했기 때문일까.
하지만 챗GPT를 설계한 사람의 생각은 달랐던 듯하다. 최근 챗GPT를 만든 오픈AI에서 벌어진 사건은 그 증거다. 이미 위험이 현실이 되고 있다고 느낀 이들은 쿠데타를 일으켰다. 물론 실패로 끝났지만.
이 사건에 등장하는 핵심 단어는 싱귤래리티, 일반인공지능(AGI), 얼라인먼트 등이다.
싱귤래리티(Singularity). AI가 인간의 지능을 넘어서는 지점을 말한다. 인간보다 똑똑한 AI가 출현하는 순간이다. 인간 수준의 지능을 가진 일반인공지능(AGI), 인간의 능력을 뛰어넘는 초인공지능(superinterlligence) 등도 표현은 다르지만 이 ‘싱귤래리티’를 넘어선 지점을 뜻한다. 얼라인먼트는 AI 시스템이 인간의 의도된 목표나 윤리적 원칙에 따라 움직이도록 조종하고 제어하는 기술이다.
최근 AI가 무서운 속도로 발전하면서, 일각에서는 싱귤래리티에 가까이 왔거나 이미 싱귤래리티를 넘어섰을지도 모른다는 우려가 나오고 있다. 이를 제어하는 얼라인먼트 기술은 AI 발전 속도를 따라잡지 못하고 있다는 게 전문가들의 평가다.
오픈AI 이사회가 샘 올트먼 CEO를 갑작스럽게 해고한 배경이 ‘AI 개발 속도와 위험성’ 때문이라는 게 가장 설득력 있는 분석이다. 너무 빠른 속도와 상업화를 막는 ‘인류를 위한 쿠데타’였다는 주장이다.
2022년 11월 챗GPT가 세상에 공개된 지 이제 고작 1년여의 시간이 흘렀을 뿐이다. 그사이 AI는 비약적으로 발전한 것이 분명하다. 그 발전이 선형적이었다면 AI의 상징인 한 회사가 공중분해 직전으로 가는 일은 없지 않았을까 하는 의문을 갖게 된다.
이 사건은 수많은 질문을 던지고 있다. ‘진짜 인간이 AI와 싸워야 하는 시대가 오는 것일까, 이를 막기 위한 화학무기금지조약 같은 공동 전선은 가능할까, AI와 전선이 형성되지도 않았는데 인간 진영은 벌써 사분오열하고 있는 것은 아닐까’ 등이다.
그럼에도 인간은 단일 전선 형성을 위해 노력하고 있다. 커지는 AI의 위험성에 대한 공포감과 함께 AI의 규율과 통제를 위한 움직임도 점차 빨라지고 있기 때문이다.
지난해 11월 오픈AI가 챗GPT를 내놓으며 세상을 흔들었다. 빅테크 가운데는 MS가 가장 발빨랐다. 오픈AI에 투자하고, 검색엔진 ‘빙’에 챗GPT를 적용했다. 검색시장의 절대강자 지위가 흔들릴 것을 우려한 구글은 자체 AI ‘바드’로 맞섰다. 하지만 한번 리드를 잡은 오픈AI는 치고 나갔다.
지난 11월 6일 챗GPT 출시 1년을 맞아 오픈AI는 ‘챗GPT4-터보’를 선보였다. 챗GPT 터보는 올해 4월까지의 정보를 담고 있다. 300쪽에 달하는 책 한 권 분량을 입력하고, 요약하는 것도 가능하다.
이것만이 아니었다. 누구나 쉽게 맞춤형 챗봇을 만들 수 있는 서비스인 ‘GPTs’ 출시 계획을 밝혔다. 오픈AI는 이를 사고팔 수 있는 GPT스토어를 함께 출시할 예정이라는 발표와 함께. 챗GPT를 통한 수익 모델의 본격화가 가능해진 것이다.
마치 아이폰과 앱스토어가 등장했을 때와 비슷하다는 반응이 쏟아졌다. CNN은 “챗GPT 출시 이후 가장 중요한 한 주였다”고 평가했다.
또 다른 추격자는 하루 전인 11월 5일 새로운 상품을 공개했다. 일론 머스크 테슬라 최고경영자(CEO)가 설립한 AI 스타트업 xAI의 첫 번째 생성형 AI ‘그록’이다. 머스크가 소유하고 X(옛 트위터)에서 이용할 수 있다. 거의 모든 질문에 답할 수 있다는 점 외에도 ‘약간의 재치와 반항적인 성격’을 갖고 있는 것으로 알려졌다. 생성형 AI의 정확성에 집중하는 대신 ‘실제 사람과 대화하는 것 같은 느낌’을 주는 것을 강조했다.
구글도 보고만 있지는 않았다. 생성형 AI에 ‘다양한 언어’를 구사하도록 가르치는 데 집중했다. 지난 5월 미국 캘리포니아주 마운틴뷰에서 개최한 구글 연례개발자회의(I/O)에서 180개국에 ‘바드’를 공개한다고 발표하며, 영어 외에도 한국어와 일본어 서비스를 추가했다고 밝혔다. 구글은 11월 9일 한국어로 이용할 수 있는 미래형 검색 경험인 ‘서치 랩스’와 생성형 AI 검색인 ‘SGE’를 공개했다. 구글 검색이 전 세계 시장을 석권할 수 있었던 데는 ‘현지 언어 서비스’에 힘입은 바가 컸다. 이를 잘 알고 있는 구글이기에 AI 경쟁에 있어서도 ‘언어 장벽 낮추기’에 공을 들이고 있다는 분석이다.
아마존도 생성형 AI의 기반이 되는 대규모 언어모델(LLM) 개발에 열을 올리고 있다. ‘오픈AI의 챗GPT를 뛰어넘겠다’는 야심을 숨기지 않고 있다. 오픈AI의 챗GPT-4는 파라미터 수가 1조 개가 넘는 것으로 추정된다. 아마존은 파라미터 최대 2조 개의 생성형 AI ‘올림푸스’를 훈련 중이다.
빅테크들 간의 AI 경쟁은 ‘AI 폰’으로도 확전 조짐을 보이고 있다. 애플은 내년에 선보일 아이폰 16에 생성형 AI를 본격적으로 장착할 것이라는 전망이 나오고 있다. 애플은 2024년 6월 연례개발자대회(WWDC)를 통해 새 LLM 기반의 생성형 AI 기술을 탑재한 iOS 18, 아이패드OS 18을 선보일 예정이다.
삼성 또한 내년 1월 공개하는 갤럭시S24에 생성형 AI ‘삼성 가우스’를 도입한다는 계획이다. 가우스는 삼성전자가 자체 개발한 생성형 AI로, 챗GPT와 마찬가지로 질문에 대한 답을 주는 것뿐 아니라 이메일을 대신 작성해주고 실시간 통역 기능도 가능하다.
AI와 관련해 위험성을 경고하며 논란을 수면 위로 끌어올린 사람은 ‘AI의 대부’ 제프리 힌튼 박사다. 그는 AI 학습법인 딥러닝을 만든 인물로, 오랜 기간 구글에서 AI와 관련된 신경망 연구 등을 주도했다.
지난 5월 1일 뉴욕타임스(NYT)는 힌튼 박사가 구글을 퇴사했다는 소식을 전하며 그 이유가 ‘AI에 대한 위험성을 경고하기 위해서’라고 밝혔다.
힌튼 박사는 “지금처럼 AI가 빠르게 발전하는 상황에서 AI가 잘못된 의도를 지닌 사람의 손에 의해 활용되거나 킬러 로봇 등에 적용된다면 재앙을 막을 방법이 없다”며 “AI 기술 개발의 속도가 빨라진 데 비해 각국의 제도적 준비는 현저히 부족한 상태다”고 경고하고 나섰다. 지금이라도 더 늦기 전에 ‘AI를 어떻게 규제할 것인지’에 대한 논의를 시작해야 한다는 주장이다.
물론 반대 목소리도 존재한다. 이들은 AI와 관련한 ‘안전 점검’의 필요성에 대해 부정하는 것은 아니다. 다만 AI가 인류에게 줄 수 있는 혜택에 더욱 집중하자는 입장이다.
MS의 창업자인 빌 게이츠가 대표적이다. 그는 AI가 향후 인류의 인생을 완전히 바꿔 놓을 것이라고 호언장담한다. AI 비서가 개개인의 건강과 교육을 포함해 모든 생활을 돌보고 필요한 일을 빠른 시간 안에 처리해주게 될 것이다. AI의 개인정보침해 위험성 등은 기술 개발과 함께 자연스레 해결책을 찾게 될 것이라는 입장이다.
빌 게이츠는 지난 3월 자신의 블로그에 “AGI는 아직 존재하지 않으며, 현재 컴퓨팅 업계에서는 이를 어떻게 만들 것인지, 심지어 만들 수 있는지에 대해 논쟁을 벌이고 있는 중이다”며 “지금 우리는 AI가 이뤄갈 수많은 일들의 시작점에 서 있을 뿐이다. 오늘날 AI의 한계가 무엇이든 간에 이는 우리가 알아채기도 전에 사라질 것이다”고 썼다.
영국의 이코노미스트는 “이번 오픈AI의 올트먼 해고 결정 이면에도 바로 이 ‘AI가 인류에게 실존적 위협이 된다는 회의론자(doomer)들과 AI의 잠재력을 최대화해야 한다는 낙관론자(boomer)들의 갈등이 자리하고 있다”고 해석했다. AI 개발 속도와 관련한 양측의 좁힐 수 없는 ‘입장 차이’가 이번 사태의 발단이 됐다는 것이다.
올트먼을 CEO직에서 해고하는 데 주도적인 역할을 한 인물은 일리야 슈츠케버 오픈AI 수석과학자다. 그는 ‘대표적인 AI 경계론자’인 제프리 힌튼 박사의 수제자로, AI에 의한 인류 파멸 우려를 제기하는 효과적인 이타주의자들(Effective Altruists) 멤버로도 알려져 있다.
반면 올트먼은 ‘AI 규제’보다 발전을 중시한다. 상업적 활용도 중요하다고 주장하며 AI 반도체 개발 등을 위해 추가적인 자본 유치에 나서기도 했다. 또 AGI라는 용어 대신 ‘스마트 AI’라고 부르는 게 맞다고 주장할 만큼 AI가 미래에 낙관적인 영향을 미칠 수 있다는 데 확신을 가진 인물이다.
실제 올트먼은 최근 NYT 인터뷰에서 “AI 개발 속도에 있어서 브레이크 없이 계속 나아가야 한다고 생각하진 않지만, 미래로 향해 가야 한다고는 생각한다”며 “AI는 인류가 발명한 가장 중요하고 유익한 기술이라고 믿는다”는 생각을 밝히기도 했다.
오픈AI에서 펼쳐진 양측의 대결은 일단 ‘MS와 올트먼’의 승리로 결론지어지는 분위기다. 올트먼을 축출하는 데 주축인 이사회 4인 중 3인이 퇴출되었으며, 올트먼은 오픈AI로 닷새만에 복귀했다. 또한, MS와의 파트너십을 더욱 공고히 했다.
하지만 이게 전부는 아니다. 오픈AI 이사회는 ‘분명한 패자’가 됐지만, AI 개발 속도를 늦춰야 한다고 주장하는 ‘효과적인 이타주의자’들은 이번 전쟁의 또 다른 승자일 수 있다고 NYT는 분석했다. 오픈AI를 망가뜨렸다는 비난을 받을지언정 AI의 위험성을 충분히 경고했고 폭주를 막았다는 측면에서 대의적 승리를 거뒀다는 평가다.
[스페셜 리포트 : 실패로 끝난 인류 위한 쿠데타?]
①‘챗GPT 아버지’ 샘 올트먼과 5일의 드라마
②닷새간의 드라마, 등장인물에 답이 있다
③AI는 인류의 구원자일까 침략자일까…오픈AI 사태 계기로 더 거세진 논란
④꺼지지 않는 AI 주가…월가는 여전히 낙관적
⑤챗GPT 1년…개발자가 필요없는 시대가 온다
이정흔 객원기자 luna.jhlee@gmail.com
© 매거진한경, 무단전재 및 재배포 금지