이는 AI를 소재로 한 대표적인 영화 <엑스 마키나(Ex Machina)>(2015년)에 나오는 대사다. 이렇듯 AI 또는 AI를 탑재한 로봇(기계)은 이미 우리 생활 곳곳에 깊숙이 파고들어 와서 인간들과 경쟁하고 있다.
글 소대섭 한국과학기술정보연구원 책임연구원(공학박사)
AI는 인간의 삶과 가치관을 근본부터 흔들며 커다란 변화와 충격을 줄 것으로 예상된다. 또 다른 영화 <그녀(Her)>(2014년)에서 여자 주인공으로 등장하는 AI는 단순히 대화의 상대를 넘어 육제적 사랑을 시도하기까지 한다.
영화 속 이야기라고 하지만 현실에서 이루어진다면 이는 매우 심각한 일이다. 그럼에도 AI에 대해 상상했던 일들은 이미 우리의 일상에서 충분히 일어날 수 있는 단계까지 다가와 있다. 과학기술과 산업 등 경제적 관점에서뿐만 아니라 생각과 인지, 심지어 사랑(정신적, 육체적인 면을 모두 포함하는) 같은 인간만이 간직한다고 생각하는 심미적, 윤리적, 종교적 영역까지 파고들고 있다.
얼마 전 테슬라의 최고경영자(CEO)인 일론 머스크는 "향후에는 개개인의 인격과 기억 등 개성을 결정하는 것들을 로봇에 다운로드 할 수 있을 것"이라고 말하며, "로봇에 인간의 뇌를 다운로드해 인간이 영생할 수 있도록 하는 기술이 개발될 것"이라고 전망했다.
이러한 미래 예측은 대다수의 미래학자와 글로벌 빅테크 책임자들의 공통된 견해다. 이는 또한 인간이 AI로 대표되는 기계(로봇)와 어디까지 혼합될 것인가, 어떻게 공존하며 살아갈 수 있을까라는 질문에 답을 찾아야 한다.
당초 AI는 특정하게 설정된 목표에 대한 답을 구하기 위해 인간이 규칙을 정하는 것에서 시작됐다. 1990년대 들어 축적된 데이터를 활용해 AI가 스스로 학습하고 판단할 수 있는 '머신러닝(Machine Learning, 기계학습)'이 기술적 진보를 이루면서 AI의 활용에 대한 전기를 마련했다. 2000년대에 들어서는 '딥러닝(Deep Learning, 심화학습)' 기술을 통해 크게 발전했는데, 이는 인간의 뇌 신경 구조를 모방한 뉴럴 네트워크(신경망)를 사용해 AI가 데이터 자체를 교사로 삼아 학습하고, 자동으로 수치화된 특징량을 추출하는 기술이다.
어떤 특징을 추출할지 AI에게 맡길 수 있으며, 인간이 특징량을 명시하기 어려운 복잡한 문제에 대해서도 AI를 적용할 수 있게 됐다. 딥러닝 기술은 '화상인식', '음성인식', '자연언어 처리', '추천' 등의 분야에서 활용이 크게 증가했다.
2016년 3월에 구글 딥마인드의 알파고는 세계 최고의 바둑기사 이세돌 9단을 4대1로 꺾으며 AI가 인간의 능력을 능가할 수 있다는 사실을 인류에 각인시키는 계기가 됐다. 이후 인터넷을 바탕으로 비대면, 가상공간의 활동이 폭발적으로 증가하고, 자본과 기술의 집중적 투자가 이루어지면서 4차 산업혁명 시대에 비약적인 발전을 이어가고 있다.
특히 포스트 코로나 시대로 전환되는 현시점에서 빅데이터, 5세대(5G) 통신 환경 및 딥러닝 기술을 기반으로 스마트 제조(스마트 팩토리), 의료·헬스, 차세대 운송(자율주행차, 드론 등), 공연·예술, 스마트 농업 등 모든 분야에서 활용되는 핵심 기술이 된 것이다.
하지만 AI의 특성 중 하나가 특징량을 자동으로 추출하는 것인데, 이 때문에 결과값을 도출하는 과정의 판단 프로세스가 '블랙박스'화 되는 것이다. 딥러닝을 거듭하며 더욱 복잡해져 가는 AI의 결정 과정과 결론에 대해 설계자마저 왜 그런 결정에 이르렀는지 알지 못하고, 오류 원인을 즉각적으로 파악하지 못함에 따라 설명 가능한 인공지능(eXplainable AI, XAI)의 필요성이 대두됐다.
예를 들어, 금융, 보험, 의료 분야에서 공정성, 신뢰성, 정확성 등을 보장하는 것이 매우 중요하고, AI를 통한 결정과 도출 근거 및 도출 과정의 타당성은 이를 위한 필수적 요인이다. 특히 사람의 생명과 관련된 의료, 자동차 등의 분야에서 AI 알고리즘의 투명성 보장을 위한 기술적, 법적 요구가 증가하고 있다.
2016년 마이크로소프트(MS)가 내놓은 AI 채팅봇 '테이(Tay)'는 알파고처럼 자기학습 능력을 가지고 있지만, '히틀러가 옳았다', '911은 미국 내부의 음모다' 등의 극단적 혐오와 반유대주의적 발언으로 큰 논란을 일으키며 서비스 개시 16시간 만에 운영이 중단됐다.
2016년 1월 중국 하북성에서는 테슬라S 차량을 몰던 운전자가 사망하는 사고가 발생했다. 자율주행 모드로 놓고 운전하던 중 도로 가장자리에 주차돼 있던 트럭을 들이받으며 운전자가 사망한 것이다.
2016년 우버(Ubber)는 미국 캘리포니아주 정부 승인 없이 자율주행자동차를 테스트하다가 사고를 내기도 했다. 당시 우버의 자율주행차는 여섯 차례나 적색 신호를 무시한 것으로 밝혀졌다. 이렇듯 구글, 테슬라, 도요타, 우버, 웨이모 등 글로벌 기업들이 꾸준히 자율주행차의 개발을 진행하고 있지만 여전히 사고에 대한 안전성 확보에는 이르지 못한 상황이다.
2018년 10월, 아마존의 AI 기반 채용 시스템은 개발자, 기술 직군에 대해 대부분 남성만을 추천하는 편향적 결과를 제시하는 문제를 보여줬고, 이에 대해 아마존은 이 시스템을 폐기했다. 2018년 1월에는 미국 20여 개 주 법원에서 사용하던 AI 기반 범죄 예측 프로그램인 ‘COMPAS’가 재범률 예측에서 흑인 범죄자의 재범 가능성을 백인보다 2배 이상 높게 예측하는 편향성을 나타낸 사례도 있다.
2020년 10월 영국에서는 AI 자동화 프로세스의 오류로 코로나19 감염 사례 기록 수천 건이 유실돼 방역에 큰 구멍이 뚫린 사건이 발생한 바 있다. 이렇듯 인간의 삶에 중대한 영향을 미치는 분야에서는 AI는 그 적용에 제약을 요구받고 있다. 인사 평가, 군사 작전, 의료 분야, 범죄 위험성 판단 등에 대한 의사결정은 매우 중요하기 때문에 설명할 수 없는 AI의 활용은 제한될 수밖에 없는 것이다.
AI의 파급력이 커질수록 오류나 악용으로 인한 잠재적 통제 불가능성과 이로 인한 사회적 위험성도 크게 증가하고 있으며, 이에 대한 대안으로 떠오른 XAI는 AI가 왜 이런 결정을 내렸는지, 수행한 결과가 왜 성공했는지 또는 실패했는지, 실패한 이유는 무엇인지, 그리고 AI가 수행한 결과를 신뢰할 수 있는지 등 과정과 판단에 대한 근거를 제공함으로써 사용자가 합리적으로 의사결정을 할 수 있도록 도울 것으로 기대된다.
2017년 미국 방위고등연구계획국(DARPA)은 XAI 프로젝트를 시작했으며 이를 계기로 설명 가능한 AI 알고리즘 기술 개발이 본격적으로 전개되고 있다. 2018년 유럽연합(EU)은 개인정보보호 규정(GDPR) 규제 조항을 제정함으로써 제도적 기반을 마련하기 위한 기초를 제공했다.
2021년에 중소벤처기업부가 발표한 '중소기업 전략기술로드맵 2022~2024 인공지능'에 따르면, 넥스트 무브 스트레티지 컨설팅(Next Move Strategy Consulting)의 자료를 근거로 XAI의 세계 시장 규모는 2019년 21억7800만 달러에서 연평균 성장률 20.1%로 증가해 2025년에 65억3100만 달러에 이를 것으로 전망했다. 또한 국내 AI(XAI) 시장 규모는 2019년 75억2000만 원으로 평가했으며 연평균 20.7%로 성장해 2025년에 232억4000만 원 규모로 성장할 것으로 전망했다.
XAI의 시장 상황은 사용자 간 신뢰도를 제고하고, 제품의 약점에 대한 이해도 향상함으로써 성능을 극대화하는 등 고객 유지율 향상 및 재고 관리 개선과 같은 상당한 이점을 제공함으로써 꾸준한 성장세를 유지할 것으로 전망된다.
XAI는 사회, 기술, 법·제도, AI 등의 측면에서 수요가 확대되고 응용이 전 산업에 걸쳐 빠르게 확산되고 있다. 현재 진행되고 있는 AI 산업의 특징을 살펴보자.
첫째, AI의 투명성과 신뢰성을 높이는 설명 가능한 XAI 개발을 지향한다. AI의 블랙박스 형태 결과만으로 판단하는 것은 잠재적 위험을 내포하고 있어 사람 중심의 설명 가능한 AI의 중요성이 강조되고 있다.
둘째, 초기 기술 개발 단계로부터 점차 적용 분야를 확대하는 방향으로 전개되고 있다. XAI 연구는 사용자가 이해할 수 있는 이론적 근거를 제공함으로써 법적 문제와 사회적 차별의 제약이 있는 기존 AI 알고리즘의 한계 극복으로 설명력과 신뢰성이 중요한 분야에서 그 적용이 확대될 것으로 기대된다.
셋째, 미국, 중국 양강 중심의 시장 경쟁이 확대된 전망이다. XAI 특허 중 미국과 중국이 약 60%를 차지하고, 특히 미국의 빅테크 기업이 XAI 특허출원을 선도하는 등 미국과 중국이 XAI의 기술 개발과 특허를 주도하고 있다.
넷째, 정보보호·보안 분야에서 XAI의 활용이 크게 기대되고 있다. 악성 위협에 대응하는 방법의 하나인 시그니처(signature) 기반의 탐지 기능에 XAI 방법론 연구가 활발히 진행되고 있다.
다섯째, 정확성 및 정당성을 위한 의학 및 보건의료 분야에서 특히 중요한 역할을 담당할 것으로 예상된다. 의료종사자가 더 나은 진단적·치료적 의사 결정을 내리고 새로운 지식, 통찰력 및 발견을 할 수 있도록 도움을 준다. XAI는 현재 신경과학 및 행동과학, 유전체학, 유방암, 만성질환 등 광범위하게 응용되고 있다.
여섯째, 시스템이 예상대로 작동 중인지를 보장하는 데 유용한 역할을 담당할 수 있다. 사전에 프로세스를 이해하고 있음으로써 사고를 방지하므로 시간과 비용을 절감한다.
우리나라는 2019년 12월, ‘인공지능 국가전략’(2019)을 발표하고, 2020년부터 차세대 AI 선점을 위한 창의적·도전적 차세대 AI 연구에 ‘의사결정과정 설명가능한 AI’를 포함해 선제적인 투자를 진행하고 있다. 이어서 2021년 5월에는 사람이 중심이 되는 AI를 위한 ‘신뢰할 수 있는 인공지능 실현전략’을 발표하고 XAI 기술 개발에 적극 나서고 있다.
1997년에 IBM의 딥블루(Deep Blue)는 체스 챔피언을 이겼으며, 2016년 구글의 AI 알파고는 이세돌과의 바둑 대국에서 승리했다. 이렇듯 인간과의 대결에서 점차 우위를 확대해 가고 있는 AI는 이제 인간의 지능 수준을 넘어 XAI, 초지능(Super Intelligence)를 향해 기술적 단계를 진화하고 있다. AI가 인간의 지능을 뛰어넘는 한계점(싱귤레러티)이 결코 먼 훗날의 얘기가 아닌 눈앞의 현실로 다가오고 있는 것이다.
이런 상황에서 우리는 이에 대한 대응 방안의 하나로 XAI에 대해 주목할 필요가 있다. 또한 앞에서 제기된 AI의 파괴력과 부작용에 대한 다각도의 기술적 과제를 해결해야 한다. 그 가운데 높은 개방성과 접근성 및 데이터 독점 방지를 예방하는 블록체인 기술의 특성을 활용하는 것도 그 대안 가운데 하나가 될 수 있을 것이다. 아울러 윤리적·제도적·규범적·정책적 논쟁에 대한 사회적 합의도 시급히 이루어져야 할 과제다.
더욱이 인간 심리의 작용에 대한 연구와 이해를 통해 이를 AI 기술로 구현함으로써 초인공지능(Super AI) 등장이 예견되고 있다. 미래의 AI는 '사람과 기계 간 협업'뿐만 아니라 '기계와 기계 간 협업'도 가능할 것으로 예상된다. AI의 능력이 사람의 마음을 읽는 수준에 도달할 것이고, 특정 분야에서 인간보다 100~1000배 높은 IQ 1만~10만의 높은 지능을 기반으로 인간보다 모든 문제를 더 잘 해결할 수 있을 것이다.
사람보다 단순히 계산을 더 잘한다는 정도의 능력이 아니라, 과학기술의 창조성, 일반 분야의 지식, 사회적 능력 면에서도 인류의 두뇌를 뛰어넘는 수준으로 향후 20~30년 내에 초지능형 AI가 하나의 개체로서 인간이 할 수 있는 모든 것을 수행할 수 있으며, 100년 내에 기계의 지능이 인간을 능가할 확률이 매우 높다는 예측도 나오고 있다.
특히 AI도 이성적인 사고를 통해 감정을 취득할 수 있다는 의견이 등장하면서 영화에서 보여준 것처럼 사랑과 증오 등 감정을 갖는 AI가 등장할 수 있다는 예측이 나오고 있다. 이 대목에서 "인류가 초인공지능 등장에 미리 대처하는 방법을 익히지 못하면 AI 기술은 인류 문명사에서 최악의 사건이 될 수 있다"는 고(故) 스티븐 호킹 박사의 경고를 새겨볼 필요가 있다.
글 소대섭 한국과학기술정보연구원 책임연구원(공학박사)
© 매거진한경, 무단전재 및 재배포 금지