노동력 대체 넘어 인류 위협 초래 vs 특정 목적에 맞춰 설계 인간 통제 가능
[한경비즈니스=전승우 LG경제연구원 책임연구원] 올여름 정보기술(IT)업계에서는 두 명의 스타 최고경영자(CEO) 간 설전이 큰 관심을 끌었다. 논쟁의 주제는 바로 오늘날 IT 산업의 가장 큰 화두인 인공지능(AI)의 미래였다.
전기자동차 기업 테슬라와 상업용 우주선 기업 스페이스 X의 수장인 엘론 머스크 최고경영자(CEO)가 논쟁의 화두를 던졌다. 그는 미래에 AI가 인간과 전쟁을 벌일 가능성이 매우 높다고 주장했다. 마치 공상과학영화처럼 고도의 AI를 탑재한 기계들이 인류를 지배하는 디스토피아 시대가 전개될 수 있다는 것이다.
페이스북의 CEO 마크 저커버그는 이를 정면으로 반박했다. 그는 머스크 CEO의 주장을 과장됐다고 일축하며 AI가 삶의 질을 풍요롭게 만들어 줄 것이라고 주장했다. 이런 저커버그 CEO의 주장에 대해 머스크 CEO가 다시 반박하는 등 팽팽한 신경전을 벌이자 전 세계 언론이 이를 비중 있게 보도했다.
◆“AI, 예기치 못한 위협 초래할 것”
AI의 위험성을 경고한 사람은 머스크 CEO만이 아니다. 실제 다수의 과학자들이 머스크 CEO의 주장에 동조하고 있다. 영국의 물리학자 스티븐 호킹 박사 역시 AI가 지속적으로 발전하면서 인류의 종말을 초래할 수 있다고 경고했다.
호킹 박사는 지금까지의 AI는 인간의 통제하에 있는 소극적인 수준이라고 주장했다. 하지만 AI가 인간의 통제를 벗어나는 시대가 오면 도리어 인간의 생존을 위협할 수 있다는 것이다.
그는 인류의 발전은 생물학적 진화 속도에 맞춰 느리게 진행되는 반면 기계의 발전은 해를 거듭할수록 가속도가 붙기 때문에 궁극적으로는 인간이 AI를 이기기 어렵다고 설명했다.
최초의 컴퓨터 애니악이 등장한 이후 IT는 급속도로 발전해 사람들의 일상을 혁신적으로 변화시켰다. 이제는 가정이나 일터에서 IT가 없는 모습을 상상하기 어렵다. 마찬가지로 새롭게 등장하는 AI 역시 인류의 삶에 엄청난 영향을 미칠 것으로 기대된다. 하지만 AI의 파급력이 커질수록 예기치 못한 큰 위험을 초래하게 될 것이라는 주장도 팽팽하게 맞서고 있다.
얼마 전에는 페이스북이 개발하는 챗봇 프로그램들이 인간이 이해할 수 없는 단어를 사용해 대화했다는 보도가 나와 전 세계가 떠들썩했다. 페이스북은 사람의 대화를 모방해 커뮤니케이션할 수 있는 고객 응대용 챗봇을 개발하고 있었다. 개발자들은 챗봇의 능력을 강화하기 위해 챗봇 간 반복적으로 대화를 훈련했는데, 훈련이 계속될수록 챗봇이 점점 사람이 이해할 수 없는 단어를 사용했다는 것이다.
AI의 자가발전으로 대서특필됐던 이 사건은 챗봇 프로그램의 오류로 밝혀지면서 해프닝으로 끝났다. 하지만 이 사건에 대한 뜨거운 반응은 AI의 고도화 시대에 대한 세계적 우려를 방증한다. 미래에는 인간의 지능을 능가하는 기계들이 자신들의 무기를 사용해 인류와 전쟁을 벌인다는 영화 속 상상이 현실이 될 수도 있다는 불안감이 커지고 있는 것이다.
AI의 위험에 대한 논란은 최근 AI 기술 수준의 급격한 성장에서 비롯됐다. AI가 다양한 분야에 확대 적용될수록 사람들의 AI에 대한 의존도는 크게 늘 수 있다. 따라서 AI의 역량은 날이 갈수록 성장하는 반면 인간의 사고와 판단 능력은 퇴보를 거듭하게 된다는 것이다.
◆인공지능은 정말 위험할까
과거 AI는 IT의 하나로만 간주됐지만 이제는 일상생활의 한 부분으로 자연스럽게 자리하고 있다. 간단한 분야는 물론 복잡한 기술이 요구되는 분야에서도 AI를 적용하려는 움직임이 활발하게 이뤄지고 있다. 특히 인간을 넘기 어려울 것이라는 예상이 우세했던 바둑에서도 구글의 알파고가 세계 최고수들을 간단히 제압하자 AI에 대한 관심이 폭발적으로 증가했다.
AI의 성장은 역설적으로 AI에 대한 우려와 불안감을 증폭시키고 있다. 가장 큰 걱정은 바로 AI가 인간의 일자리를 빼앗는다는 것이다. 단순한 노동력이 필요한 업무는 AI 등 IT의 도입으로 빠르게 사라지고 있다. 그뿐만 아니라 인간의 고유 영역으로만 여겨졌던 고난도 업무에서도 AI가 사람들을 대체하게 될 것이라는 전망도 설득력을 얻고 있다.
예를 들어 환자의 의료 정보를 판독해 병을 진단하고 처방할 수 있는 AI가 실제 활용되고 있다. IBM이 만든 AI 컴퓨터 왓슨은 인간 의사와 동일하거나 능가하는 수준으로 환자의 질병을 진단할 수 있다는 평가를 받고 있다. 만일 AI의 의료계 보급이 빨라진다면 많은 의사들의 역할이 줄어들 수 있다.
AI의 어두운 면에 주목하는 사람들은 AI가 인간의 노동력 대체를 넘어 거대한 위험을 만들게 될 것이라고 말한다. 이들은 AI의 궁극적인 목적은 스스로 지능을 강화하는 것이라고 전망한다. 사람의 제어가 불가능할 정도로 고도화된 AI는 흡사 영화 ‘터미네이터’의 스카이넷처럼 인간의 조력자를 넘어 경쟁자로 자리하게 된다는 것이다.
반론도 만만치 않다. AI를 악의 원천으로 보는 것은 잘못됐다는 주장이다. 설령 AI가 지속적으로 발전하더라도 인간이 충분히 통제할 수 있다는 것이다. AI 자체는 특정 목적에 적합하도록 설계된 기술이기 때문에 다양한 환경에 적응할 수 있는 범용적 지능을 가지기 어렵다. 이는 인간만의 고유 능력이기 때문에 아무리 우수한 AI라고 하더라도 결국 한계에 부닥칠 수밖에 없다는 것이다.
게다가 AI는 근본적으로 특정 가치에 편중되지 않는 기술이므로 인간이 선한 목적으로 사용한다면 AI는 인간의 번영에 필수적이라는 주장도 있다. 인간과 AI 컴퓨터의 조화로운 융합이 전에 없는 새로운 혁신을 이끌 수 있다는 것이다.
미국의 미래 연구학자이자 구글의 엔지니어링 이사인 레이 커즈와일은 AI가 인류의 혁신을 가속화하는 도구가 될 것이라고 주장한다. 그는 저서인 ‘특이점이 온다’에서 AI가 튜링 테스트라는 인간과 AI를 구별할 수 있는 테스트를 통과하는 순간 AI는 인간을 빠르게 넘어서게 될 것이라고 말한다. 그는 이르면 2020년대 말에 AI가 튜링 테스트를 통과하고 2045년이 지나면 AI가 인간을 넘어서 극적인 변화를 만드는 기술적 특이점에 도달할 것이라고 예측했다.
커즈와일 이사가 주장하는 궁극의 특이점은 컴퓨터와 뇌가 결합하고 이를 통해 엄청난 정보가 저장돼 있는 AI 클라우드와 실시간으로 연결되는 것이다. 그는 이런 모습이 현실로 등장한다면 인간의 지능이 무려 10억 배나 향상되기 때문에 새로운 혁신을 만드는 속도를 더욱 증가시킬 수 있을 것이라고 전망한다.
◆진지한 성찰과 논의가 필요
현재로서는 AI의 미래를 정확히 예견하기 어렵다. AI의 확산이 빨라지고는 있지만 거의 모든 영역을 완전히 새롭게 바꾸기까지는 보다 많은 시간이 필요하기 때문이다. 전문가들은 특정 영역의 문제를 풀 수 있는 소위 ‘약한’ AI는 광범위하게 쓰이겠지만 공상과학영화에서 등장하는 인간 수준의 ‘강한’ AI에 도달하기 위해서는 여전히 넘어야 할 과제가 많다고 진단한다.
하지만 AI의 활용이 늘어날수록 인문·경제·사회·문화 등 다각적 측면에서 AI의 명암을 바라봐야 할 필요성은 커질 것이다. 특히 의료용 컴퓨터나 자율주행자동차처럼 인간의 생명과 안전에 직결되는 기기일수록 AI의 판단이 법적·윤리적으로 유효한지 분석하는 사례가 빈번하게 등장할 수 있다.
과거의 AI는 사람의 판단을 보조하는 수준에 그쳤다면 향후 AI는 사람과 동등한 수준의 판단을 내리게 될 것이다. 그러므로 AI의 역할과 책임을 명확히 규정하는 것이 주요 현안으로 등장할 수 있다.
따라서 이제는 AI가 가져올 사회적 파급효과를 깊이 있게 고민해야 한다. 막연하게 AI를 긍정 혹은 부정적 시선으로 보는 것이 아니라 실제로 등장할 가능성이 높은 문제점을 열거하고 이를 어떻게 개선할 수 있는지 심층적으로 논의할 필요가 있다.
아직까지 이런 노력은 AI 기술 연구에 비하면 초보적 단계에 머물러 있다. 하지만 AI의 명암을 면밀히 성찰하고 이에 대한 사회적 공론화를 이끌어 가는 노력이 미래 AI를 바람직하게 활용할 수 있는 필수 과제로 부상하게 될 것이다.
© 매거진한경, 무단전재 및 재배포 금지