오픈AI의 핵심 인력들이 'AI 안전'이라는 신념을 위해 설립한 앤트로픽은, 창업 5년 만에 기업 가치 547조 원을 달성하며 글로벌 AI 산업의 새로운 도덕적·기술적 중심축으로 급부상했다.
[스페셜] 포스트 오픈AI 시대
오픈AI 본사 앞에는 수십 명의 시위대가 '우리는 로봇 전쟁을 원하지 않는다!'는 시위가 펼쳐졌다. 이들의 분노는 하나로 모였다. 챗GPT가 군사 인공지능(AI)의 핵심 공급자가 됐다는 것이다.
미국 국방부의 요구 거부한 앤트로픽
눈길을 끈 것은 많은 참가자들이 "나는 이미 클로드(Claude) 팬이라 ‘GPT 구독을 끊자’(QuitGPT)를 할 필요도 없었다"고 말했다는 점이다. 앤트로픽은 이 혼란 속에서 일종의 도덕적 대안으로 부상하고 있었다. 오픈AI가 트럼프 행정부와 밀착하는 동안, 앤트로픽은 AI 안전의 마지막 수호자로 여겨졌다.
다리오 아모데이 앤트로픽 최고경영자(CEO)의 CBS 단독 인터뷰가 미친 여론의 영향이 컸다. 아모데이 CEO는 이 인터뷰에서 "우리는 두 가지 레드라인이 있다. 클로드 AI를 미국인에 대한 대규모 국내 감시에 쓰지 않게 할 것, 그리고 인간이 전혀 개입하지 않는 완전 자율 무기를 구동하는 데 쓰지 않게 할 것이다. 우리는 여전히 레드라인을 지키려 한다. 그 선에서 물러서지 않겠다"고 말했다.
앤트로픽 본사 앞에는 분필로 '신은 앤트로픽을 사랑합니다', '용기를 칭찬합니다(praise for its ‘courage’)', '스파이 행위를 돕지 말라' 등의 메시지가 쓰여 있었다. 앤트로픽에 대한 민심을 반영한다.
하지만 앤트로픽은 이후 도널드 트럼프 미국 대통령과 국방부로부터 ‘공급망 위험 기업(supply chain risk)’으로 공식 지정되면서 위기에 빠졌다. 미국 기업에, 그것도 미 국방부와 무기에 깊이 관여한 기업에, 이 꼬리표가 붙는 것 자체가 전례 없는 일이었다. 앤트로픽은 미국·이란 전쟁에도 깊이 관여돼 있다.
AI 산업의 현대적 지형을 이해하기 위해서는 ‘앤트로픽’이라는 조직이 단순한 기술 기업을 넘어선 존재임을 먼저 인식해야 한다.
창업 5년 만에 기업 가치 547조 원 달성
2021년 다리오 아모데이와 다니엘라 아모데이 남매를 필두로 오픈AI 핵심 연구원 7명이 설립한 이 회사는, 인류가 초지능(AGI)으로 향하는 과정에서 직면할 실존적 위험을 기술적·구조적으로 제어하려는 거대한 사상적 실험체다.
그러나 앤트로픽의 이야기는 단순한 성공 서사가 아니다. 이 회사의 탄생에는 기술 낙관주의와 실존적 공포가 동시에 깔려 있으며, 상업적 야망과 윤리적 원칙이 끊임없이 긴장 관계를 이루고 있다. 아모데이 CEO가 말했듯 우리는 "데이터센터 안의 천재들의 국가"를 목전에 두고 있다. 그 국가를 어떻게 설계하느냐가 앤트로픽의 핵심 질문이다.
창업자의 철학: 물리학도가 AI 안전에 집착하기까지
1983년 샌프란시스코에서 태어난 다리오 아모데이의 가정환경은 첨단 기술 엘리트 코스와는 거리가 멀었다. 이탈리아계 가죽공예 장인인 아버지와 도서관 프로젝트 매니저인 어머니 사이에서 자란 그는, 정밀한 장인정신과 체계적 사고를 자연스럽게 습득했다.
미국 물리 올림피아드 국가대표팀에 발탁될 만큼 수학, 물리학에 재능을 보였던 그는 캘리포니아 공과대(Caltech)에서 물리학을 전공하고 스탠퍼드대에서 학사 학위를 마쳤다.
그러나 그의 인생 궤적을 완전히 바꾼 것은 2006년 아버지의 죽음이었다. 희귀병으로 아버지를 잃은 아모데이는 순수 물리학을 뒤로하고 프린스턴대 생물물리학 석박사 통합 과정으로 전공을 바꿨다. 이후 스탠퍼드 의과대학에서 전이성 암세포의 발현 메커니즘을 연구했지만, 그는 또 다른 벽과 마주했다.
전통적 실험실 연구와 인간의 직관만으로는 생물학의 복잡성을 해결하는 데 한계가 있다는 것이었다. 결국 그는 생물학의 근본 문제를 풀려면 인간 지능을 초월하는 강력한 연산능력, 즉 AI가 필수적이라는 결론에 도달했다.
스케일링 법칙: 물리학적 통찰이 AI 산업을 바꾸다
2014년 머신러닝 경력이 전무했던 아모데이는 앤드루 응 스탠퍼드대 교수의 제안으로 바이두에 합류하며 AI 분야에 뛰어들었다. 이후 구글 브레인을 거쳐 2016년 오픈AI에 입사한 그는 GPT-2와 GPT-3 개발을 진두지휘하며 AI 연구자로서 만개했다.
이 통찰을 바탕으로 그는 오픈AI의 컴퓨팅 자원 절반 이상을 단일 모델에 투입하는 과감한 결단을 내렸고, 그 결과물이 오늘날 생성형AI 혁명의 시초가 된 GPT-3다.
동시에 그는 AI의 능력이 인간의 통제를 벗어날 가능성에 대해 누구보다 깊은 우려를 품었다. 2016년 오픈AI 합류 직전 발표한 논문 'AI 안전의 구체적 문제들(Concrete Problems in AI Safety)'은 그의 안전에 대한 집착이 단순한 취미가 아니라 경력의 출발점부터 깔린 근본 신념임을 보여준다.
2019년 마이크로소프트가 오픈AI에 10억 달러를 투자하고 조직이 영리 법인으로 구조를 개편하면서 균열이 시작됐다. 아모데이 CEO와 그의 측근 그룹, 이른바 ‘판다스(The Pandas)’는 이 변화가 AI 안전이라는 본연의 가치를 훼손할 것이라고 판단했다. 갈등은 세 축으로 벌어졌다.
첫 번째는 모델 공개의 속도와 방식이었다. 샘 올트먼을 중심으로 한 경영진은 상업적 선점 효과를 위해 강력한 모델의 빠른 배포를 주장했다. 아모데이 그룹은 배포 전 충분한 안전 검증이 선행돼야 한다고 맞섰다.
두 번째는 마이크로소프트와의 긴밀한 결합이었다. 거대 자본의 투입이 연구 독립성을 저해하고 특정 기업의 상업적 이익을 대변하게 될 것이라는 우려였다.
세 번째는 해석 가능성(interpretability) 연구에 대한 태도였다. 아모데이는 모델 내부 기제를 이해하는 연구를 중시했으나 오픈AI는 성능 향상과 상업화에 집중했다.
결국 2021년, 다리오와 다니엘라 아모데이 남매를 포함한 7명의 핵심 인력은 오픈AI를 떠났다. 단순한 이직이 아니라, AI 안전을 법적으로 보장받을 수 있는 새로운 거버넌스 모델을 구축하기 위한 ‘망명’에 가까웠다. 그들이 직접 만든 GPT 시리즈와 마이크로소프트의 막강한 지원을 뒤로하고 처음부터 다시 시작하는 도박이었다.
독립 이후 앤트로픽은 외부 압력으로부터 안전 미션을 보호하기 위한 두 가지 혁신적 거버넌스 장치를 도입했다.
가장 앞세운 것은 앤트로픽은 민간 기업이 아니라 ‘공공이익법인(Public Benefit Corporation·PBC)’이라는 지위다. 일반 주식회사와 달리 PBC는 재무적 이익뿐 아니라 사회적 공익과 안전을 이사회의 법적 의무로 명시한다. 주주들이 단기 수익을 위해 안전 규정을 완화하라고 소송을 제기할 수 없도록 막는 법적 방패다.
또 장기이익신탁(Long-Term Benefit Trust·LTBT) 제도를 둬서 재무적 이해관계가 없는 5명의 전문가로 구성된 이 신탁이 앤트로픽 이사회의 과반수를 선출·해임할 수 있는 권한을 점진적으로 확보하도록 설계됐다.
신탁 위원들은 ‘T 클래스’라는 특수 의결권 주식을 보유하며, 회사 가치가 수천억 달러로 치솟아도 상업 논리에 휘둘리지 않고 안전 원칙을 고수하는 독립적 권력을 행사한다. 이는 ‘수익과 윤리의 딜레마’를 구조적으로 해결하려는 아모데이 CEO의 정교한 설계다.
앤트로픽의 핵심 기술은 ‘헌법적 AI(constitutional AI)’다. 기존의 인간 피드백 기반 강화학습(RLHF) 방식은 인간 검수자들이 일일이 유해성을 판단해야 하므로 비용이 높고 확장이 어렵다. 더 큰 문제는 인간 검수자 자체가 지닌 편향과 심리적 피로가 모델에 전이될 수 있다는 점이다.
앤트로픽은 이를 극복하기 위해 ‘AI에 의한 AI 감독’이라는 개념을 도입했다. 인공지능에게 유엔 세계 인권 선언 등을 기반으로 인간이 작성한 명시적 ‘헌법’을 부여하고, 모델이 자신의 답변을 스스로 비판하고 수정하도록 학습시키는 방식이다.
지도 학습 단계에서는 AI 비판자 모델이 헌법 원칙에 비추어 답변을 평가하고 수정을 지시한다. 강화 학습 단계에서는 AI 피드백 기반 강화학습(RLAIF)을 통해 두 답변 중 헌법에 더 부합하는 것을 스스로 판단해 보상 신호로 삼는다.
이 기술은 클로드 모델이 경쟁사보다 정교한 윤리적 판단을 내리고 ‘환각(hallucination)’을 줄이며 복잡한 지시를 안전하게 이행하게 만드는 원동력이 됐다.
2024년 11월 앤트로픽이 조용히 공개한 MCP(Model Context Protocol)는 AI 산업의 경쟁 구도를 근본적으로 바꾼 혁신이다. 기존 AI는 ‘프롬프트 단위’로 작동했다. 사용자가 질문하면 답변하고, 새 질문이 들어오면 이전 맥락은 희미해졌다. MCP가 적용된 클로드는 ‘작업 단위’를 인식한다.
"이 데이터를 분석해서 리포트를 만들어줘"라는 요청을 받으면 전체 작업을 여러 단계로 나눠 수행하고, 각 단계를 기억하며 진행한다.
이 변화는 대부분의 인간 작업이 여러 단계로 이루어진다는 현실을 반영한다. MCP는 AI가 자료 조사, 구조 설계, 내용 작성, 검토·수정이라는 복합적 작업을 인간 어시스턴트처럼 체계적으로 수행하게 만든다.
2026년 2월 발표된 클로드 오퍼스 4.6은 ‘에이전트 팀(Agent Teams)’ 아키텍처를 도입, 여러 AI 에이전트가 병렬로 협력하며 50명 규모 조직의 업무를 자동화하는 능력을 증명했다.
소스 코드 공유 플랫폼 깃허브(GitHub)에서 공개 커밋의 4%가 이미 클로드 코드에 의해 작성되고 있으며, 현재 추세라면 2026년 말에는 전체 일일 커밋의 20% 이상을 클로드 코드가 차지할 것으로 전망된다.
전략적 야망: 자본·인프라·국가 안보
앤트로픽은 독립 이후 단기간에 빅테크와의 전략적 동맹을 구축했다.
아모데이 CEO는 특정 클라우드 기업에 종속되지 않기 위해 아마존과 구글을 모두 파트너로 끌어들이는 다각화 전략을 택했다. 아마존은 총 80억 달러를 투자하며 아마존웹서비스(AWS)를 앤트로픽의 주된 훈련 파트너로 설정했고, 앤트로픽은 아마존의 자체 AI 칩 ‘트레이니움2(Trainium2)’를 활용한다.
구글은 30억 달러 이상을 직접 투자하는 동시에 차세대 TPU(Ironwood) 100만 개 사용 계약을 체결했다. 이로써 앤트로픽은 2026년까지 1기가와트(GW) 이상의 전력을 사용하는 데이터 센터 용량을 확보하게 됐다.
이러한 인프라 확장은 단순한 서버 대여를 넘어선다. 세미애널리시스는 "앤트로픽이 향후 3년 내 오픈AI 수준의 컴퓨팅 파워를 추가할 궤도에 올랐다"고 분석한다.
넷플릭스가 연매출 100억 달러를 달성하는 데 15년이 걸렸고 우버는 8년이 걸렸는데, 앤트로픽은 서비스 본격 출시 2년 만에 연환산 매출 50억 달러를 돌파했다. 역사상 가장 빠르게 성장하는 기술 기업 중 하나가 된 것이다.
국가 안보 전략: 헌법 앞에 무릎 꿇지 않는다
아모데이 CEO는 AI 기술이 민주주의 체제의 생존과 직결된다고 믿는다. 만약 권위주의 정권이 초지능 개발에서 앞서 나갈 경우 ‘글로벌 전체주의 독재’가 도래할 수 있다는 것이 그의 실존적 우려다.
이에 따라 앤트로픽은 미국 정부 및 국방부와 긴밀한 협력 관계를 맺고 있다. 2025년 6월 출시된 ‘클로드 정부용(Claude Gov)’ 모델은 미 국가 안보기관에 보급돼 기밀 미션에 사용되고 있다.
앤트로픽은 자사의 안전 가이드라인을 훼손하라는 정부 압박에는 단호히 맞섰다. 2025년 말 미 국방부가 자율 무기 시스템 사용을 위해 클로드의 안전 가드레일 제거를 요구하자 앤트로픽은 이를 거부했다.
펜타곤이 앤트로픽을 ‘공급망 리스크’로 규정하고 오픈AI로 공급선을 교체하려 하자, 아모데이 CEO는 법적 대응을 했다. 이 스토리는 현재 진행형이지만 국가 권력 앞에서도 자신의 '헌법’을 지키려는 앤트로픽의 의지가 확인된 순간이었다.
앤트로픽의 궁극적 야망은 아모데이 CEO가 쓴 에세이 <사랑과 은총의 기계들(Machines of Loving Grace)>와 <기술의 사춘기(The Adolescence of Technology)>에 압축돼 있다.
그는 AI가 가져올 급진적 가능성을 믿는다. 암 정복, 수명 연장, 전 세계적 빈곤 퇴치가 5~10년 안에 가능할 것이라 믿는다. 그러나 이 유토피아로 가는 길에는 인류가 반드시 통과해야 할 ‘기술적 사춘기’의 시련이 기다린다고 전망했다.
이를 위해 앤트로픽은 ‘책임 있는 확장 정책(RSP)’으로 스스로를 규제한다. 현재 생화학 무기 제조 지원 등을 차단하는 ASL-3 수준의 안전 조치를 가동 중이며, 국가급 사이버 공격이나 자율 복제 기능을 갖춘 모델이 등장할 경우를 대비한 ASL-4 이상의 방어 로드맵도 구축하고 있다. 막연한 공포도, 무분별한 낙관론도 아닌 증거 기반의 ‘성숙한 거버넌스’가 아모데이 CEO의 제안이다.
앤트로픽의 성공은 단순한 기술적 우위에 있는 것이 아니다. "안전이 곧 제품의 경쟁력"이라는 사실을 증명해낸 데 있다. 빅테크와의 복잡한 이해관계 속에서도 독립성을 유지하며, 국가 안보와 윤리적 레드라인 사이에서 균형을 잡는 이들의 행보는 AI 시대 기업이 지향해야 할 기준을 제시한다.
2026년 현재, 앤트로픽은 초지능으로 향하는 가장 험난하고 기업으로서는 위험하지만 가장 책임감 있는 길을 걷고 있다.
아모데이 CEO는 물리학자의 눈으로 스케일링 법칙을 발견했고, 생물학자의 마음으로 생명을 구하려 했으며, 이제 경영자의 손으로 AI가 인류를 위한 ‘사랑과 은총의 기계’가 될 수 있는 구조를 짓고 있다. 그 실험의 성패가 인류의 다음 세기를 결정할 것이란 믿음이 실리콘밸리에서는 퍼지고 있다. 이 믿음 때문에 샌프란시스코 앤트로픽 본사 앞에 응원의 메시지가 많았던 것이다.
손재권 더밀크 대표
© 한경매거진&북, 무단전재 및 재배포 금지