주요 AI 연구자 22명은 영국 케임브리지대 AI 과학·정책 프로그램(CASP)을 통해 발표한 공동 논문에서 AI 연구개발(R&D) 자동화가 빠르게 진행될 경우 기술 발전 속도가 급격히 빨라질 수 있다고 지적했다.
논문에는 제프리 힌턴 토론토대 명예교수와 요슈아 벤지오 몬트리올대 교수 등 학계 연구자와 오픈AI, 앤트로픽, 마이크로소프트(MS), 메타 등의 AI 연구진이 참여했다.
연구진은 주요 AI 기업에서 AI가 모델 개발과 연구 업무를 수행하는 비중이 빠르게 늘고 있다고 설명했다. 앤트로픽의 경우 개발자가 승인한 코드 가운데 AI가 작성한 비율이 지난해 1월 한 자릿수에서 올해 5월 80% 이상으로 증가한 것으로 나타났다.
AI가 인간의 직접적인 개입 없이 수행한 R&D 작업 비중도 올해 3월 1%에서 최근 26%로 늘었다고 연구진은 밝혔다.
연구진은 이 같은 추세가 이어질 경우 수개월이 걸리는 복잡한 AI R&D 프로젝트가 2년 안에 상당 부분 자동화될 수 있다고 전망했다. AI가 스스로 개선하는 재귀적 자기개선(RSI)이 가능해지면 기술 발전 속도가 더욱 빨라질 수 있다는 설명이다.
다만 급격한 기술 발전이 사회가 대응할 수 있는 속도를 넘어설 가능성도 제기됐다. 연구진은 극단적인 경우 AI 시스템에 대한 통제를 잃어 인류 사회에 심각한 위험이 발생할 수 있다고 경고했다.
이에 따라 각국 정부가 AI 기업의 R&D 자동화 수준을 파악할 수 있는 보고 체계를 마련하고, AI 기업에 대한 상시적인 감독 체계를 검토해야 한다고 제안했다.
또 안전 기준을 충족하지 못할 경우 AI 연구개발 작업을 조절하거나 중단할 수 있는 통제 장치와 급격한 노동시장 변화 등에 대비한 대응 체계도 필요하다고 강조했다.
강홍민 기자 khm@hankyung.com
© 한경매거진&북, 무단전재 및 재배포 금지