얼굴 표정 인식으로 학습 경험 향상에 기여
...개인 정보·데이터 남용에 대한 윤리적 논란도
대면 수업의 경우 교사는 학생의 신체 언어와 표정에 주의를 기울임으로써 학생이 지루해 하거나 스트레스를 받거나 산만해지는 상황을 쉽게 알아차릴 수 있다. 하지만 온라인 수업 같은 비대면 수업애서는 이러한 상황을 인지하기 매우 어렵다.
다행히 최근 교육 현장에서의 이러한 불편함을 해결하기 위해 인공지능(AI)을 활용하는 사례가 늘어나고 있다. AI를 활용하면 컴퓨터 비전을 통해 학생의 눈동자 움직임이나 얼굴 표정과 같은 실시간 학습 행동 데이터를 수집하고 분석할 수 있기 때문이다.
이러한 행동 데이터를 통해 교사는 학생들의 주의를 집중시키거나 산만한 환경을 개선할 수 있는 해결 방안을 마련할 수 있다. 특히 얼굴 표현 정보를 처리하기 위해 수많은 얼굴 표정 인식 시스템(FER : face expression recognition) 알고리즘을 적용해 인식 정확도가 점차 향상되고 있는 상황이다. 최근 미국 CNN이 소개한 AI 기반의 감성 인식 학습 플랫폼 ‘포리틀트리(4 Little Trees)’가 대표적인 사례다.
AI 기반 감성 인식 학습 플랫폼, 포리틀트리
포리틀트리는 홍콩에 기반을 둔 스타트업 ‘파인드솔루션 AI(Find Solution AI)’가 개발한 감성 인식 AI 학습 플랫폼이다. 이 회사는 AI와 빅데이터 분석을 이용해 학생들의 학습 성과에 대한 데이터를 수집하고 분석해 학생들의 감성 상태를 이해할 수 있는 솔루션을 개발하고 있다.
여기서 말하는 감성을 인식하는 AI, 즉 감성 AI(Emotion AI)는 ‘인간의 감정을 측정하고 이해하고 시뮬레이션하고 반응하는 AI의 하위 집합’으로 정의된다. 정서 컴퓨팅 또는 인공 감성 지능이라고도 불리는 감성 AI는 매사추세츠공과대(MIT) 미디어 랩의 로사린드 피카드 교수가 발표한 ‘감성 컴퓨팅(affective computing)’에서 유래된 것으로 알려져 있다.
감성 AI는 인간과 기계 사이의 자연스러운 상호작용과 교감을 가능하게 하는 도구로 시스템이 인간의 감정적 단서와 기분을 감지·분석·처리하고 이에 반응할 수 있도록 한다.
포리틀트리의 경우 AI는 컴퓨터나 태블릿에 장착된 카메라를 통해 학생들 얼굴의 근육 지점을 측정하고 행복·슬픔·분노·놀라움·두려움 등의 감정을 식별한다. 또한 학생들이 질문에 답하는 데 걸리는 시간을 모니터링하고 그들의 성적과 성과 이력을 기록한다. 개인의 강점·약점·동기 수준에 대한 보고서를 작성하고 성적까지 예측한다.
이러한 감성 AI는 향후 컴퓨터 비전과 알고리즘을 통해 학생의 정서 지수 또는 감정 상태에 대한 상세한 정보를 주는 데 중요한 역할을 할 것으로 기대된다. 학생의 내면 감정에 대한 상세한 분석은 학생의 전반적인 학습에 긍정적인 영향을 미치고 교육기관이 학생 친화적인 교육을 수행하는 데 도움을 줄 것이기 때문이다.
현재 ‘파인드 솔루션 AI’의 감정 인식률은 홍콩에서는 85%인 것으로 알려져 있다. 홍콩에서 포리틀트리를 사용하고 있는 학교의 수는 2010년 34개에서 현재 83개로 늘어났고 가격은 코스 1인당 10~49달러다.
미디어와 자동차 분야에도 적용되는 감성 AI
감성 AI는 교육 분야뿐만 아니라 다양한 산업에도 적용돼 사용되고 있다. 현재 인간의 감성을 인식할 수 있는 기술로는 이미지 처리 소프트웨어가 필요한데 이를 통해 인간 얼굴의 감정을 식별하기 위해 얼굴 표정을 매핑하는 프로세스가 요구된다.
이러한 얼굴 분석, 감정 감지, 신원 인식을 전문으로 하는 제품과 기업은 어펙티바(Affectiva)·메그비(Megvii)·카이로스(Kairos)·놀두스(Noldus)·아마존 레코그니션(Amazon Rekognition)·마이크로소프트 감성 탐지기(Microsoft Emotion Detector) 등이 있다.
MIT 미디어 랩에서 분사해 2009년 설립된 어펙티바는 얼굴과 음성 표현을 분석해 인간의 감정, 인지 상태, 활동 및 사람들이 사용하는 물체를 이해하는 AI를 만드는 대표적인 감성 감지 소프트웨어 기업이다.
어펙티바의 주요 적용 분야는 미디어와 자동차다. 미디어 분야는 비디오·광고·TV 프로그램에 대한 소비자의 반응 테스트에 적용된다. 이러한 정보를 통해 광고 스토리 흐름 개선, 예고편 제작 또는 광고 캐릭터 인식 분석이 가능하다. 이 밖에 고객 관계를 최적화할 수 있는 마케팅 도구로도 활용된다.
자동차 분야는 차량 운전자의 감정을 실시간으로 이해하는 객실 내 감지(ICS : In-Cabin Sensing)를 통한 차량 안전 개선 솔루션이 있다. 감성 AI를 차량에 적용하면 운전자의 혈압 데이터를 측정해 운전 위험 요소를 줄일 수 있다. 또한 운전자의 피로 수준이나 산만한 상태를 모니터링해 도로 안전과 사고 위험을 줄여 탑승자 경험을 향상시키는 데 기여한다.
이를 위해 어펙티바는 웹캠을 사용해 얼굴과 입가나 코끝 등 주요 표정의 특징을 식별, 얼굴 표정을 7가지 주요 감정(분노·경멸·혐오·공포·기쁨·슬픔·놀라움)으로 분류한다. 그다음 사전 녹음된 오디오를 사용하면 수백 밀리 초의 주파수로 말하는 방식을 분류하고 음성 감지 기능을 통합한다. 이러한 일련의 과정을 통해 어펙티바는 2020년 기준 87개 국가에서 약 600만 개의 얼굴을 분석한 결과 90%의 높은 데이터 정확도를 기록하고 있다.
보스턴에 기반을 둔 스타트업 컴패니언엠엑스(CompanionMX)는 AI 기반의 정신 건강 모니터링 애플리케이션(앱)이다. 이 앱은 AI를 사용해 우울증으로 고통받는 사용자의 감정 상태의 변화를 추적한다. 예를 들어 전화 통화의 목소리를 통해 상대방의 음성과 전화 사용 상태를 분석해 불안과 기분 변화의 징후를 확인한다. 이 기술은 특히 콜센터 상담원이 전화로 고객의 기분 상태를 파악해 효율적인 응대가 가능할 수 있도록 도와준다. 컴패니언엠엑스는 예전에도 고등연구계획국(DARPA)과 협력해 외상 후 스트레스 장애(PTSD)가 있는 재향 군인의 정신 질환 변화를 추적할 수 있는 알고리즘을 개발한 바 있다.
감성 AI가 가져오는 부작용에 대한 주의도 필요
이처럼 코로나19 이후 감성 AI가 다양한 분야에 적용돼 혁신을 이끌고 있지만 그에 따른 부작용도 우려되고 있는 것이 사실이다. 그 무엇보다 인간의 감정과 행동을 AI가 잘못 해석하면 부적절한 결정을 유도할 위험성도 있다. 또한 얼굴이나 감정 인식을 통한 개인 정보나 관련 데이터 남용에 대한 윤리적 이슈도 제기될 수 있다.
포리틀트리도 학생들의 얼굴을 모니터링하는 기술은 개인 사생활에 대한 우려를 불러일으킬 소지가 크다. 실제로 중국에서는 학교와 기타 장소에서 감시 목적으로 생체 데이터를 분석하는 AI가 논란을 불러일으킨 바 있다.
최근 지속적으로 논란이 되고 있는 인종 편견 관련 AI의 부작용에 대해서도 세심한 주의가 필요하다. 최근 연구에 따르면 일부 감정 분석 기술은 어두운 피부를 가진 얼굴의 감정 식별에 문제가 있는 것으로 알려져 있다. 이는 이런 기술들이 주로 백인 얼굴의 감정을 식별하는 방법으로 학습하기 때문인 것으로 알려졌다.
심용운 SKI 딥체인지연구원 수석연구원
© 매거진한경, 무단전재 및 재배포 금지