[한경비즈니스=이정흔 기자] 인공지능(AI)이 신입사원 면접을 진행하고 자산을 어디에 투자해야할지 알려주는 세상이다. AI가 그저 먼 공상과학 속 얘기가 아니라 우리 일상에 점점 더 가까이 스며들고 있다. 인류의 미래에 대한 AI의 영향력이 커지면 커질수록 기대감과 두려움이 동시에 커지고 있다. 컴퓨터가 인간보다 똑똑해지는 세상은 과연 유토피아일까 디스토피아일까.
닉 보스트롬 옥스퍼드대 철학과 교수 겸 인류미래연구소 소장은 바로 이 질문에 대한 답을 연구하는 세계적인 AI 석학이다. 철학은 물론 물리학, 컴퓨터 신경과학과 수리 등 여러 분야 등을 두루 섭렵했다. 2014년 ‘슈퍼인텔리전스(초지능)’이란 책을 출판하며 인간보다 똑똑한 컴퓨터의 출현이 향후 인류의 미래에 실존적 위험(existential risk)이 될 수 있다는 경고를 담았다. 그렇다고 그가 인류의 멸망을 예언하는 비관론자는 아니다. AI가 인류의 역사에 거대한 영향력을 미칠 수 있는 만큼 지금부터 AI로 인한 인류의 미래를 고민하고 올바른 방향으로 나아갈 방법을 고민해야 한다는 데 방점이 있다.
그의 주장은 일론 머스크, 마크 저커버그, 빌 게이츠 실리콘밸리 거물들의 큰 지지를 받으며 ‘AI와 미래’에 대한 논의에 불을 붙이고 있다. 보스트롬 소장과 이메일 인터뷰를 통해 AI가 우리의 미래를 어떻게 바꾸어갈지에 대한 힌트를 들어봤다.
-초지능의 출현이 인류의 ‘실존적 위험’이 될 수 있다고 경고했습니다. 구체적으로 어떤 의미인가요.
“AI는 단계에 따라서 약 세 가지로 구분할 수 있습니다. 특정 분야나 업무 능력과 관련해 인간과 같은 지적인 업무를 수행할 수 있는 ‘약한 인공지능’과 인간과 거의 유사한 지능을 보유해 자의식 그러니까 자유의지가 부여된 ‘강한 인공지능’, 그리고 먼 미래에 출현 가능성이 높은 초지능입니다. 초지능은 자의식을 가졌음은 물론이고 경제, 사회, 과학 등 거의 모든 분야에서 인류의 일반적인 지능을 뛰어넘는 겁니다. 만약 이런 초지능이 나타나게 된다면 이는 인류에 매우 위협적 존재가 될 수밖에 없습니다. 예를 들어 지금 고릴라들의 운명은 그들 스스로가 아닌 우리 인간에게 달려있습니다. 인류의 운명 또한 이와 마찬가지로 초지능에 의해 좌우될 수 있다는 겁니다.”
-현재 단계에서 초지능이 출현할 가능성은 어느 정도인가요.
“현재 우리가 생활 속에서 많이 이용하는 AI는 대부분 약한 인공지능이죠. 사실 지금의 시점에서는 인공지능과 일반적인 소프트웨어의 경계가 그다지 뚜렷하지 않습니다. 하지만 AI는 이미 많은 부분에서 인간의 지능을 능가하고 있습니다. 체스나 바둑을 비롯해 다양한 게임에서 인공지능이 인간 챔피언을 이기고 있잖아요. 물론 이들을 초지능이라고 할 수는 없습니다. 알파고의 경우도 바둑은 인간을 이기지만 다른 분야에서는 아니니까요. 언제쯤 기계가 ‘인간수준’의 지능을 획득할 수 있을지에 대해 전문가들에게 설문조사를 한 적이 있습니다. 2040년까지 개발이 가능하다고 응답한 비율은 전체의 50%, 그리고 2075년까지 가능하다는 답변은 90%였습니다. 누구도 정답을 알 수 없지만 개인적으로는 기계지능이 ‘일단’ 인간 수준에 도달한다면 이후 초지능으로 도약하기까지 걸리는 시간은 매우 짧을 것으로 보고 있습니다.”
-AI 만큼이나 인류의 미래에 큰 영향력을 미칠 것으로 전망되는 요소가 고령화와 같은 ‘인구학적 변화’입니다. AI와 인구학적 변화라는 두 요소가 서로 상호작용을 일으키며 미래에 더욱 큰 변화를 가져올 가능성도 있는 건가요.
“지금으로서는 그렇게 크지는 않습니다. 인구학적 변화는 비교적 느린 속도로 진행되는 반면 AI 기술의 발전은 급작스럽고 매우 빠른 전환이 일어날 가능성이 언제든 존재하니까요. 장기적으로 보죠. 예를 들어 자의식이 있는 기계지능의 출현 가능성을 고려한다면 그때는 물론 AI가 인구학적 변화에도 큰 영향력을 미칠 가능성이 있습니다. 조금 더 짧은 기간을 상정해 예측해 보자면 AI 기술과 관련해 최고의 능력을 지닌 전문가들이 AI 기술 개발의 핵심 지역으로 옮겨가는 것과 같은 패턴이 나타날 수는 있습니다. 개인적으로는 ‘인구의 고령화가 로봇과 같은 기술의 수요를 높일 것이고 이로 인해 로봇과 AI 기술이 더 빨리 발전하게 될 것이다’와 같은 주장을 지지하지는 않습니다. 인류의 미래에 미치는 영향력 차원에서는 ‘AI 자체적으로도 얼마나 풀기 어려운 과학적이고 기술적인 문제들을 내포하고 있는가’와 같은 문제가 훨씬 더 중요하고 막강한 영향력을 미친다고 판단하고 있습니다.”
-AI가 똑똑해질수록 인간의 직업을 빼앗길 수 있다는 두려움도 커지고 있습니다.
“일반적인 기계지능은 인간의 지능을 충분히 대체할 수 있습니다. 적절한 업무 능력을 갖춘 디지털 지성체는 현재 인간이 하는 지적 노동뿐 아니라 육체적 노동도 대신할 수 있죠. 빠르게 복제될 수 있는 디지털 노동자는 인간과 비교해 가격 경쟁력 면에서도 유리합니다. 만약 저렴하게 복제할 수 있는 노동자가 존재한다면 시장에서 일반적으로 통용되는 임금은 낮아질 겁니다. AI는 거의 모든 분야에서 인간을 따라잡을 겁니다. 그렇다면 인간이 경쟁력을 유지할 수 있는 분야가 있을까요. 기본적으로 고객이 사람의 손을 거치는 것을 선호하는 분야가 유일할 겁니다. 예를 들어 AI가 아무리 훌륭한 능력을 갖추고 인간보다 뛰어난 예술 작품을 선보일 수 있다 하더라도 미래의 소비자들이 인간 예술가, 인간 운동선수를 더 선호할 수 있죠. 또 법률을 해석하고 적용하는 일이나 인간만이 수행할 수 있는 특수한 종교 의식 등도 대표적인 예가 될 수 있습니다. 이와 같은 역할들은 AI가 할 수 없는 영역으로 남을 가능성이 높습니다.”
-AI 기술이 빠르게 발전하면서 인류에 긍정적인 역할을 할 것이라는 전망 또한 힘을 얻고 있습니다.
“향후 10년에서 100년 정도의 짧은 미래를 보자면 AI기술의 발전이 인류에 가져다주는 혜택이 적지 않을 것이라고 생각합니다. 기업들은 AI를 활용해 재고 관리 등을 더 효율적으로 할 수 있을 테고 소비자들은 AI를 활용해 자신들이 원하는 서비스를 더욱 편리하게 접속할 수 있게 될 겁니다. 거의 전 분야에서 AI가 적용되면서 큰 변화를 가져오겠지만 그중에서도 현재 가장 이목이 집중돼있고 치열한 경쟁이 일어나는 분야는 금융시장이죠. 이미 자동화된 주식거래 시스템은 주식시장에서 광범위하게 이용되고 있습니다. 변화하는 시장의 조건을 판단해 고도화된 거래 전략을 짜는 시스템도 사용되고 있습니다. 하지만 AI 기술이 발달하고 다양한 분야에 적용될수록 이로 인해 가져올 수 있는 예기치 못한 위험 또한 인지하고 있어야 한다는 겁니다. 2010년 뉴욕 증시를 패닉에 빠뜨렸던 사상 초유의 주가 폭락 사건인 '플래시 크래시' 사태가 대표적이죠. 당시 다우지수가 몇 분만에 1000가까이 폭락해 전 세계 금융시장이 깜짝 놀랐는데요, 당시 알고리즘 트레이딩 거래에서 컴퓨터 프로그램의 매물폭탄으로 주가가 급락하게 된겁니다. 물론 이 경우는 관련된 프로그램들이 그다지 정교하거나 똑똑하지 않았기 때문에 추후 ‘초지능’이 인류에 가져올 수 있는 위험과는 그 성격이 근본적으로 다르죠. 하지만 여전히 우리에게는 유용한 교훈을 줄 수 있는 사건입니다.”
-장기적으로는 AI 기술의 발전이 인류의 미래에 위협이 될 가능성이 더 높은 건가요.
“꼭 그렇진 않습니다. 앞서 비유했던 고릴라보다 인류가 유리한 점이 있습니다. 바로 우리가 직접 AI를 만들었다는 점입니다. 다시 말해 AI에게 인류가 중요하게 여기는 가치가 무엇인지를 공유함으로써 AI가 잘못된 판단을 내리고 인류에 예기치 못한 결과를 가져올 위험을 통제하는 게 중요합니다. 이를 위해서는 우리가 AI이 ‘초기 설정’을 어떻게 설계하느냐가 관건이 될 것입니다. AI와 인류가 공존할 수 있는 해법을 찾는 것이 우리가 생존할 수 있는 유일한 방법입니다.”
-AI에게 ‘인류의 가치’를 가르치는 게 가능한가요.
“물론 쉽지는 않습니다. AI가 처할 수 있는 모든 상황을 열거해 각각의 상황별로 어떤 행동을 취해야 하는지 매뉴얼을 만드는 방식은 불가능합니다. 하지만 AI에게 인류의 가치를 공유하기 위한 다양한 방법들이 논의 되고 있습니다. 예를 들어 인공지능이 적절한 환경에 처했을 때 어떤 행동이 적절한지 가치를 학습하게 한다거나 AI에게 목표 시스템을 부여하고, AI에게 동기를 부여해 옳은 결정을 내릴 수 있도록 유도하는 겁니다. 그러나 각각의 방법마다 한계가 있고 또 올바른 가치를 AI에게 탑재한다고 하더라도 이후에 해결해야 할 문제들 또한 적지 않습니다. 예를 들어 A의 행복을 추구하도록 설계된 AI가 ‘A의 행복’을 추구하는 수많은 방법 가운데 뇌신경을 자극해 행복한 기분을 유지하는 방식을 택할 수도 있는 겁니다. 그런데 이는 인류가 원하는 ‘행복해지는 방식’은 분명 아니잖아요. AI에게 어떻게 정확한 인간의 가치를 주입하고 이를 올바르게 추구하는 과정을 선택하도록 할지에 대한 고민은 전문가들이 더욱 고민하고 연구해야 할 주제입니다.”
-최근 AI 기술 개발과 관련해 ‘인문학의 중요성’이 점점 더 강조되는 것과 같은 맥락인가요.
“개인적으로는 최근 AI 기술개발을 이끄는 오피니언 리더들 사이에서 ‘인문학의 중요성’이 강조되고 있다고 생각하지는 않습니다. 물론 구글과 같은 IT공룡 업체들이 철학자나 심리학자 등과 함께 연구하는 모습이 늘고 있는 건 사실이지만 이는 이들 회사들의 소비자들의 행동을 이해할 필요가 있기 때문입니다. 여전히 현대 사회에서는 STEM(과학, 기술, 엔지니어링, 수학) 이라고 일컬어지는 과학부문이 인문학 보다 상대적으로 더 중요하게 여겨지고 있죠. 하지만 인문학과 과학에 대해 엄격하게 구분하는 걸 선호하지는 않습니다. AI 기술을 포함해 이 세상을 이끌어가고 있는 혁신가들의 상당수는 자신만의 질문에 대한 답을 찾아가는 과정에서 기술적인 부분뿐 아니라 인문학적으로도 상당히 높은 이해도를 갖추고 이 두 분야를 접목하는 데 성공한 이들이 꽤 많습니다.”
vivajh@hankyung.com
[본 기사는 한경비즈니스 제 1262호(2020.02.03 ~ 2020.02.09) 기사입니다.]
© 매거진한경, 무단전재 및 재배포 금지