[에디터스 노트]

세계의 이목이 이란 전쟁에 쏠려 있지만 미국 워싱턴에서는 또 다른 전쟁이 벌어지고 있습니다. 인공지능(AI) 사용 방식을 둘러싼 미 국방부(국가 권력)와 실리콘밸리의 대결입니다. 실리콘밸리를 대표하는 기업은 새로운 AI 강자로 급부상한 앤트로픽입니다. 이 회사는 자율 무기 시스템 구동을 위해 클로드 AI의 핵심 안전 장치인 '가드레일'을 제거해 달라는 국방부의 요구를 정면으로 거부하며 ‘AI 안전의 수호자’로 업계 전문가와 개발자의 뜨거운 지지를 받고 있습니다.

서로 동떨어져 보이는 두 전쟁은 실제로 밀접하게 연결돼 있습니다. 앤트로픽이 개발한 클로드 AI는 미군이 전쟁 의사결정을 위해 활용하는 핵심 인프라로 깊숙이 자리 잡고 있습니다. 니콜라스 마두로 전 베네수엘라 대통령 체포 작전에서 중요한 역할을 한 것은 물론, 이란 전쟁에서도 정보 수집과 평가, 타깃 선별, 시뮬레이션에 폭넓게 활용됩니다. 이제 사람이 아니라 AI가 전장의 주인공으로 활약하는 시대입니다.

AI의 강력한 성능과 잠재력을 생각하면 안보 분야에 활용되는 자연스러운 흐름입니다. 첨단 기술이 국방 분야에서 가장 먼저 적용되고 성숙한 사례가 적지 않습니다. 인터넷도 국방 연구 프로젝트에서 시작됐습니다. 앤트로픽과 펜타곤의 협력 관계는 앤프로픽이 가드레일 제거를 거부하면서 적대 관계로 돌변했습니다. 국방부가 앤트로픽을 ‘공급망 위험 기업’으로 지정하고 퇴출에 나서자 앤트로픽도 소송으로 맞대응 중입니다. 앤트로픽은 완전 자율 무기와 시민을 대상으로 한 대규모 감시에는 클로드 AI를 사용할 수없다는 원칙을 비타협적으로 고수합니다.

앤트로픽의 다리오 아모데이 최고경영자(CEO)는 오픈AI의 AI 안전(AI safety) 연구 책임자 출신입니다. 실리콘밸리에 많은 추종자를 거느린 효과적 이타주의(effective altruism) 운동에 공감하고 AI가 인류의 멸절을 가져오는 실존적 위협이 되지 않도록 ‘정렬(alignment)’해야 한다는 철학을 갖고 있습니다. 2020년 오픈AI가 초심을 잃고 스케일링과 상업화에만 몰두하자 ‘안전파’ 동료들과 뛰쳐나와 앤트로픽을 창업합니다.

철옹성 같던 오픈AI의 아성에 구글 제미나이가 균열일 내더니 이제는 앤트로픽이 선두로 치고 올라옵니다. AI 시대의 마지막 승자는 누가 될지 아직 속단할 수 없습니다. 앤트로픽이 주목받는 것은 AI 안전 때문만은 아닙니다. 지난 2월 초 앤트로픽이 선보인 AI 에이전트 ‘클로드 코드’와 ‘클로드 코워크’는 글로벌 소프트웨어 기업를 공포로 몰아넣었습니다. 일주일 사이 시가총액 400조 원이 증발했습니다. 이른바 ‘클로드 쇼크’입니다. AI가 단순히 질문에 답하는 수준을 넘어 맥락 파악, 코드 작성, 실행, 검증, 수정 과정을 스스로 반복해 최종 결과물을 내놓자 시장이 소프트웨어 기업의 종말을 예감한 것입니다.

AI를 둘러싼 윤리적, 철학적 논의는 아직 초보 단계지만, AI는 이미 많은 것을 불가역적으로 바꾸어 놓고 있습니다. 알파고가 이세돌 9단을 누른 이후 바둑계가 재정의됐듯 AI가 승패를 결정하는 전쟁과 클로드 쇼크에 흔들리는 소프트웨어 업계의 모습은 우리에게 엄중한 질문을 던집니다. 과연 과거의 가치 기준은 여전히 유효할까요. 금융과 투자의 영역 또한 이 질문에서 예외가 될 수없습니다.
[에디터스 노트] 클로드 쇼크와 두 개의 전쟁
장승규 한경머니 편집장 skjang@hankyung.com