13일(현지 시간) 앤트로픽은 미국 정부가 12일 국가안보상의 이유로 모든 외국 국적자의 ‘페이블5’와 ‘미토스5’ 접근을 차단하는 통제 지침을 통보했다고 밝혔다. 이는 미국 정부가 자국 AI 모델에 대해 수출을 막은 첫 사례로, 현재 외국인의 서비스 이용이 전면 중단된 상태다.
미토스5는 앤트로픽이 4월 공개한 고성능 차세대 AI 모델이다. 앤트로픽은 해당 모델이 사이버 공격 도구로 악용될 가능성을 우려하며 약 50개 기관에만 접근 권한을 제공해왔다. 이러한 미토스의 성능을 지니면서 해킹이나 생화학 무기 개발 등에 악용되는 명령을 차단하는 페이블5를 지난 9일 일반 대중에게 공개했다.
이번 조치는 앤트로픽의 주요 투자자 아마존으로부터 시작됐다. 월스트리트저널(WSJ)에 따르면 아마존 연구진은 특정 명령어(프롬프트)로 페이블5의 ‘탈옥’에 성공해 이를 미 정부에 보고한 바 있다. 탈옥은 AI가 막아둔 정보를 우회해 빼내는 수법을 말한다.
이후 앤디 재시 아마존 최고경영자(CEO)와 스콧 베선트 재무장관 등 백악관 관계자 간 논의가 이어졌고, 미국 당국은 접근 제한을 결정한 뒤 도널드 트럼프 대통령의 승인을 받았다.
앤트로픽은 정부 조치에 반발했다. 회사는 “제한적인 수준의 탈옥 기법이 발견됐다는 이유만으로 수억 명이 사용하는 상용 모델을 회수해야 한다는 주장에는 동의하지 않는다”며 “이 같은 접근은 AI 개발사의 신규 모델 출시를 위축시킬 수 있다”고 밝혔다.
이번 조치로 해외 AI 모델 의존도가 높은 국가에서 핵심 서비스 접근이 언제든 차단될 수 있다는 우려가 커지고 있다. 공공·국방·의료 등 AI 활용 영역이 넓어지고 있는 가운데 특정 기업이나 국가의 정책 변화가 산업 전반에 영향을 미칠 수 있다는 지적이다.
최기영 전 과학기술정보통신부 장관은 이번 사태를 계기로 각국의 AI 자립 움직임이 빨라질 수 있다고 전망했다. 그는 “미토스5와 같은 고성능 AI 모델은 시스템 교란에 쓰일 수 있지만 동시에 방어 체계를 기르는 데도 활용될 수 있다”며 한국도 최고 수준의 독자적 파운데이션 모델 개발에 속도를 내야 한다고 강조했다.
오승주 인턴기자 seungjuoh@hankyung.com
© 한경매거진&북, 무단전재 및 재배포 금지