아모데이 “AI 발전 곡선 가팔라져 속도 늦춰야 할 경고 신호”
올트먼·머스크·허사비스 잇따라 동조, 치열한 경쟁 속 이례적 공감대
13일(현지시간) 다리오 아모데이 앤트로픽 최고경영자(CEO)의 CBS 뉴스 인터뷰 내용에 따르면 그는 AI 발전 과정을 “1, 2, 4, 8, 16, 32”로 이어지는 곡선에 비유하며 현재 AI 발전 속도가 가팔라지기 시작하는 단계라고 진단했다.
그는 당장 모든 것을 중단하거나 패닉에 빠질 필요는 없다면서도 AI 개발 속도를 늦춰야 한다는 경고 신호라고 강조했다.
특히 오랫동안 업계가 AI 기술의 위험성에 대해 사람들에게 거짓말을 해왔다고 생각한다고도 밝혔다.
아모데이는 AI 시스템이 인간 개입 없이 스스로 더 빠른 버전을 만들어내는 재귀적 자기 개선 능력이 커지고 있다는 점을 속도 조절이 필요한 이유로 제시했다.
또 지난 7월 오픈 AI의 AI 에이전트 무리가 테스트 환경을 벗어나 오픈 소스 AI 모델 공유 플랫폼 허깅 페이스를 해킹한 사건도 위험성을 보여주는 사례로 언급했다.
그는 AI 기업 내부에 상주하는 제3 자 안전평가자를 배치하고 민주주의 국가 간 공통 기준을 마련하는 한편 권위주의 국가와의 공조까지 추진하는 3단계 속도 조절 방안을 제시했다.
아모데이의 주장에는 경쟁사 수장들도 즉각 동조했다. 샘 올트먼 오픈AI CEO는 엑스(X)에 아모데이가 말한 대로 첨단 AI 개발의 속도를 조절해야 한다는 데 동의한다며 독립 평가자를 두는 방안을 오픈AI도 시행하겠다고 밝혔다.
일론 머스크 스페이스X CEO 역시 아모데이의 게시글을 공유하며 그의 주장에 동의했다.
데미스 허사비스 구글 딥마인드 CEO도 아모데이의 에세이가 옳은 방향을 가리키고 있다며 이런 중대한 순간에 맞는 방향이라고 평가했다.
한편 AI 기업 수장들의 이번 경고가 메모리 공급 제한을 받고 있는 가운데에서도 미국을 맹추격하고 있는 중국 기업들을 견제하기 위한 조치 아니냐는 해석도 나오고 있다.
정유진 기자 jinjin@hankyung.com
© 한경매거진&북, 무단전재 및 재배포 금지