인공 신경망의 첫 구현체이자 현대 딥 러닝의 시초 퍼셉트론 │ 매거진한경

인공지능의 역사와 미래② 프랭크 로젠블라트가 1958년 기념비적 논문 발표하고 시연 성공

[HELLO AI] 인공지능 따라잡기

인공지능(AI), 머신 러닝, 딥 러닝은 이제 어디에서든 매우 쉽게 접할 수 있다. 간단하게 정의하자면 AI는 ‘인간의 지능을 모사한 시스템’으로 정의되고 머신 러닝은 보다 구체적으로 ‘특정한 작업을 수행하는 기계에 데이터를 더 추가할수록 성능이 올라가는 기계’를 뜻한다. 마지막으로 딥 러닝은 ‘인공 신경망으로 구현한 머신 러닝의 특수한 형태’를 말한다. 다시 말해 AI는 인간 지능과 유사한 특성을 가진 컴퓨터를 뜻하는 말로, 셋 중 가장 광의의 개념이고 머신 러닝과 딥 러닝은 AI를 구현하는 각각의 접근 방식이다. 그리고 많은 영역에서 딥 러닝이 머신 러닝보다 진보된 기술로 인식되는데, 이는 개념적으로 딥 러닝이 인간의 뇌가 지닌 생물학적 특성을 보다 구체적으로 모사하고 있기 때문이다.

요즘 특히 핫한 이 딥 러닝의 핵심 키워드는 인공 신경망이다. 인공 신경망은 실제 우리 뇌의 신경 세포와 뉴런의 연결 구조에서 영감을 받은 개념이다. 즉 뇌에서 수많은 뉴런들이 연결돼 정보를 처리하고 전달하는 것처럼 인공 신경망은 수많은 함수를 서로 연결해 복잡한 정보를 처리하는 네트워크 구조를 말한다.

이 인공 신경망을 최초로 구현한, 현대 딥 러닝의 시초라고 할 수 있는 형태가 바로 ‘퍼셉트론’이다.

대중적으로 잘 알려진 이론은 아니지만 실제 퍼셉트론 이론은 모든 딥 러닝 교재의 첫 페이지를 장식할 만큼 현대 딥 러닝의 토대를 만들었다고 인정받는다. 그리고 이를 고안한 사람은 바로 미국의 프랭크 로젠블라트 박사다.

1928년 뉴욕에서 태어난 로젠블라트 박사는 코넬대에서 컴퓨터공학이 아닌 사회심리학을 전공하고 박사 학위를 취득한 심리학 박사다. 실제로 그의 목표는 똑똑한 컴퓨터를 만드는 것이 아니라 ‘인간 뇌의 미스터리’를 푸는 것이었다. 즉 인간의 뇌의 작동 원리를 연구하고 증명하기 위한 노력의 결과물이 현대 딥 러닝의 시초, 퍼셉트론이다.

로젠블라트 박사는 1958년 출간한 기념비적인 논문 ‘퍼셉트론’의 서문에서 아래와 같은 질문을 던진다.

“우리가 궁극적으로 지각적 인식, 일반화, 기억 그리고 사고를 할 수 있는 고등 유기체의 능력을 이해하기 위해서는 먼저 세 가지 근본적인 질문에 대해 답할 수 있어야 한다.”

1. 생물 시스템은 실제 물리적 세계에 대한 정보를 어떻게 감지할까.
2. 어떤 형태로 정보가 저장되거나 기억될까.
3. 스토리지 또는 메모리에 저장된 정보가 인식과 동작에 어떻게 영향을 미칠까.

1950년대 당시만 하더라도 인류는 신경 세포의 존재에 대해 알고는 있었지만 인간의 두뇌, 특히 신경망의 작동 방식은 아직 미지의 영역이었다. 즉, 1번 질문은 이미 어느 정도 이해하고 있었지만 2번과 3번 질문에 대해서는 아직 방대한 추정의 영역이었다고 볼 수 있다. 그리고 퍼셉트론이라는 아이디어는 바로 이 2번과 3번 질문에 대한 답을 하기 위해 만들어진 것이다.

그 당시 ‘기억은 어떤 형태로 존재할까’에 대한 가설은 크게 두 가지가 있었다.

첫째 가설 : 신경망으로 들어오는 신호를 저장하는 별도의 기억 장치가 있다. 이 기억 장치에 저장된 정보를 통해 신경망이 어떻게 동작하는지 결정하는 별도의 프로세스가 필요하다.
둘째 가설 : 신경망 안의 연결 자체가 신호를 저장하며 신경망이 어떻게 반응하는지도 결정한다.

첫째 가설은 신경망에 들어오는 신호를 그대로 복제해 어디엔가 저장해 둔다는 아이디어다. 심플하지만 그대로 복제하는 방식에 대해선 밝혀진 바가 없었다. 둘째 가설은 바로 신경 세포 간에 연결이 맺고 끊어짐을 통해 네트워크상에 기억이 저장된다는 아이디어다.

퍼셉트론은 둘째 가설을 증명하는 실험이다. 생체 시스템의 신경망이 연결을 통해 기억을 저장하고 판단한다는 아이디어를 기계적 시뮬레이션을 통해 증명하려고 한 것이다.

퍼셉트론은 실제 뉴런과 유사하게 작동하도록 설계됐다. 뇌에서 뉴런이 입력 신호를 받으면 출력 신호가 생기듯이 퍼셉트론에서는 입력값을 통해 출력값이 생긴다. 이때 모든 입력값이 출력값을 내는 것은 아니다. 뉴런이 일정 이상의 자극을 받아야 출력 신호가 생기는 것처럼 퍼셉트론도 일정 이상의 값이 충족돼야 출력 값을 받을 수 있다. 이 일정 이상의 값을 조정해 주는 역할을 ‘가중치’가 하게 된다. 그리고 퍼셉트론은 이 가중치를 통해 입력값의 중요도를 스스로 선별하고 이를 바탕으로 결과값을 출력해 내는 것이다.

1958년 7월 미국 해군 연구실에서 로젠블라트 박사는 이 놀라운 발명을 실험으로 소개했다. 방을 가득 채우는 크기인 5톤 컴퓨터인 IBM 704에 여러 개의 펀치 카드들을 읽어들였고 50번의 시행착오 끝에 컴퓨터는 왼쪽과 오른쪽에 마크 표시한 펀치 카드들을 구별하는 방법을 스스로 학습한 것이다.

로젠블라트 박사에 따르면 이 실험은 “스스로 고유한 아이디어를 가질 수 있는, 즉 생각할 수 있는 최초의 기계”였던 ‘퍼셉트론’의 시연이었다.

당시 이는 연구 커뮤니티뿐만 아니라 전 사회적 관심을 끌기에 충분했다. 당시 뉴욕타임스는 ‘스스로 배우는 전자 브레인(Electronic Brain teaches it self)’이라는 제목의 기사로 이를 전하며 “후에 퍼셉트론은 사람을 인식하고 그들의 이름을 부를 것이며 연설이나 글을 즉각적으로 다른 언어로 번역할 수 있게 될 것”이라고 소개했다.

로젠블라트 박사의 실험을 통해 인간의 신경망에 대한 신비가 어느 정도 풀리게 됐다. 그리고 이에 따라 공상과학 분야의 매혹적인 영역이었던 ‘생각하는 기계’는 미약하지만 그 시작을 알렸다. 물론 이 퍼셉트론은 시작부터 완벽하지는 않았다. 수많은 한계들이 발견됐고 예상하지 못한 문제들이 발생하기도 했다. 하지만 이때마다 이를 해결할 수 있는 새로운 관점이 제기되고 실험을 통해 연구가 진행되고 또 다른 사실들이 증명되고 연구되면서 초기 퍼셉트론 모델은 보다 적합한 모습으로 진화하고 있다. 그리고 이 진화한 모델을 통해 로젠블라트 박사가 예견한 것처럼 현대의 딥 러닝 소프트웨어는 사람을 인식하고 있고 연설이나 글을 즉각적으로 번역하고 있다.

인류는 지적 능력을 활용해 지구를 정복했고 엄청난 문명을 일궜다. 그리고 이를 가능하게 하는 지적 능력의 비밀은 바로 이 신경망의 작동 방식에 있을 것이라고 믿는다. 이 신경망에 대한 연구가 고도화되고 더 많은 사실들이 발견될 수록 혹은 이와 함께 AI, 즉 딥 러닝 기술 역시 우리가 상상하지 못할 만큼 발전할 것이다.

필자는 이렇게 상상 속의 기술에 대해 이야기하는 것을 좋아한다. 왜냐하면 로젠블라트 박사처럼 과학자는 꿈꾸는 기술을 실현할 능력이 있기 때문이다. 과학자는 공상과학 영화를 통해 상상하고 언젠가는 그 꿈을 실현한다. 그리고 필자도 이러한 과정 속에 참여하고 있다는 사실에 자부심을 느낀다.

“인간 수준의 자질을 가진 기계의 창조에 대한 이야기는 오랫동안 공상과학 분야에서 매혹적인 영역으로 남아 있었지만 지금 현재 여러분은 바로 인간에 의한 훈련이나 통제 없이 느끼고 이해하고 주변 환경을 식별할 수 있는 그런 기계의 탄생을 목격하고 있는 것이다. 이러한 기계는 인간의 경험과 지능 저변에 내재하는 물리적 기제를 찾아내는 것으로부터 기원이 됐다. 이러한 프로세스들의 본질에 대한 의문은 여타 다른 서구 과학이나 철학적 의문만큼이나 오래됐고 실제로 우리 시대의 가장 큰 과학적 도전 중 하나다.”
- Frank Rosenblatt (1928~1971년)

송호연 뤼이드 이사(VP of AIOps)