[2023 강원춘천 강소연구개발특구 기업 CEO] 도메인 특화 LLM 기반 생성형 AI 솔루션 전문기업 ‘(주)오투오’

안성민 (주)오투오 대표

-콘텐츠 정보에 기반해 사용자가 좋아할 만한 콘텐츠를 예측
-AI가 문장 속의 관계를 파악한 이후 올바른 정답을 찾아내

[한경잡앤조이=이진호 기자] (주)오투오는 메타지식 기반 AI 추천 시스템, 거대언어모델(LLM) 기반 자동 질의응답 시스템을 개발하는 기업이다. 안성민 대표(51)가 2017년 8월에 설립했다.

안 대표는 “오투오는 인공지능 분야를 선도하는 스타트업”이라며 “혁신적인 아이디어와 기술을 창출하며 고객의 요구에 맞는 최고의 제품과 서비스를 제공한다”고 소개했다.

오투오는 생성형 AI 및 LLM 집중적 연구를 통해 자체 솔루션과 LLM을 활용한 생성형 AI 활용 솔루션을 개발하고 있다.

메타지식 기반 AI 추천 시스템은 LLM 기반 메타데이터 제너레이터를 파인튜닝과 프롬프트 엔지니어링으로 조정해 범용성이 높은 콘텐츠 추천 솔루션이다.

이 솔루션은 사용자가 선호하는 콘텐츠 정보에 기반해 사용자가 좋아할 만한 콘텐츠를 예측해 추천한다. 사용자의 잠재적 요구를 자동으로 분석해 원하는 콘텐츠를 제공해준다.

“기존의 메타데이터 제너레이터의 한계인 ‘다양한 언어 처리의 한계’ ‘대규모 데이터를 처리하기 위한 시간 소요’ ‘새로운 정보 최신화에 따른 유지보수의 어려움’을 해결했습니다. 콘텐츠에 대한 메타데이터라는 정보를 추출하고 콘텐츠의 해시태그를 카테고리별로 제공합니다.”

LLM 기반 자동 질의응답 시스템은 데이터의 정형화된 질의에 대해서는 Rule-base로 답변하고, Rule-base로 처리하지 못한 비정형 질의에 대해서는 딥러닝 기반의 ‘Machine Reading Comprehension’ 기계 독해 기술을 통한 질의응답 시스템이다.

“MRC(기계독해) 알고리즘은 주어진 지문에 해당하는 텍스트를 읽고 해당 내용 안에서 AI가 문장 속의 관계를 파악한 이후 올바른 정답을 찾아냅니다. 마치 사람들이 서로 질문하고 답변을 추론하는 방식처럼 작동합니다.”

최근 LLM의 언어 이해 능력을 바탕으로 모델이 학습하지 못한 데이터를 추가 자료처럼 참고해 대화를 생성하는 챗봇이 발전했다. Langchain 기술을 기반으로 추가된 pdf 문서 분석을 통해 벡터 기반의 유사한 데이터를 참고해 사용자의 질문에 알맞은 정확한 답변을 생성할 수 있다. 상담에 필요한 메뉴얼 데이터를 pdf 파일로 제공해 추가학습이나 데이터 전처리가 필요 없어 pdf 파일만 변경해주면 되므로 다양한 영역의 상담 챗봇에 쉽고 빠르게 적용할 수 있다.

“메타지식 기반 AI 추천 시스템은 기존 추천 솔루션과 유사한 알고리즘(콘텐츠 기반, 협업 필터링 기반)을 활용해 자체 콘텐츠 추천 시스템을 개발했습니다. 이후 개발한 메타데이터 제너레이터를 추가해 콘텐츠 속성에 대한 정확한 메타데이터 추출이 가능합니다. 메타데이터 추출 시스템을 통해 메타 정보를 안정적으로 수집할 수 있고, 최적화된 프롬프트와 LLM을 토대로 다양한 메타데이터를 확보할 수 있습니다. 메타데이터 추출 시스템 자동화를 통해 트렌드 및 고객 의견 최신화에 쉽고 자사 특허기반으로 구현된 메타데이터를 활용한 추천 모듈로 기존 추천 시스템의 문제를 보완했습니다.”

LLM 기반 자동 질의응답 시스템은 대규모 언어모델(LLM)을 사용해 자연어 이해 능력이 뛰어나기 때문에 사용자 질문의 의미를 정확하게 이해하고 그 전보다 더 자연스러운 대화가 가능한 것이 특징이다.

“입력 문장의 문맥을 파악해 이전 대화를 기억하고 유지할 수 있어 사용자의 질문에 더 정확하고 의미 있는 답변이 가능합니다. 다양한 도메인에 대한 지식을 학습하여 상황 대응력이 우수기 때문에 더 유연하고 다양한 대화를 제공할 수 있습니다. 로컬 LLM 기반으로 실행하면 데이터 유출의 위험성이 없어 민감한 데이터도 안심하고 사용할 수 있습니다.”

오투오는 자연어처리 최고 대학인 고려대학교, KAIST와 다양한 프로젝트를 진행 중이다. 2021년에는 고려대학교 Human-Inspired AI 연구소 계약센터와 설립 협약을 체결했다. 지난해 12월 언어지능 활용 메타 정보 자동 생성 AI의 기술을 통해 KT GenieLabs 파트너사에 선정돼 제휴업체로서 기술개발을 진행하고 있다. 고려대학교와 KAIST로부터 5건의 기술을 이전받았으며, 그 외 R&D 개발 및 과제 수행, 계약 설립 등 공격적으로 AI 기술을 도입하고 내재화를 추진하고 있다. 최근 기술보증기금 기술사업평가에서 기술력을 인정받아 ‘AA’ 등급도 획득했다.

창업 후 안 대표는 “꿈과 열정을 가진 사람들과 함께 일할 수 있다는 점과 끊임없이 도전하고 성장할 수 있다는 점 그리고 새로운 일자리를 창출하고 사회에 기여할 수 있다는 점에서 보람을 느낀다”고 말했다.

오투오는 아이템을 인정받아 강원대학교 강원춘천 강소연구개발특구 사업 지원 기업으로 선정됐다. 강소연구개발특구는 혁신 역량을 갖춘 대학·정부출연연구기관 등 지역에 소재한 주요 거점 기술 핵심 기관을 중심으로 소규모·고밀도 공공기술 사업화 집약 공간을 연구개발특구로 지정·육성하는 제도다. 기업은 기술사업화 자금, 인프라·세제 혜택, 규제 특례 등 행정적·재정적 지원을 받는다.

“전문 컨설팅 기관과 매칭돼 기술개발 및 사업화 도중에 발생할 수 있는 다양한 애로사항을 극복할 수 있게 도와주고 있습니다. 이 사업을 통해 당사 솔루션의 새로운 기회 및 비즈니스 환경을 분석하여 경쟁 업체들과 차별화된 솔루션을 제공할 수 있게 기술 개발하여 성능을 개선했습니다.”

앞으로의 계획에 대해 안 대표는 “AI 메타데이터 자동 추출 및 추천 시스템은 대규모 언어모델을 활용한 고도화된 추천 솔루션으로 국내외 유료 방송사업자에게 솔루션을 제공할 계획”이라며 “2023년 KT스카이라이프향 자동 메타 정보 추출 기반 VOD 추천 솔루션 공급 계약을 체결해 사업화하고 이를 통해 국내 IPTV 및 케이블 사업자로 확대할 예정”이라고 말했다.

덧붙여 “LLM 기반 자동 질의응답 시스템은 2023년 의료기관에 다국어 지원 챗봇 솔루션 구축에 대해 논의 진행 중”이라며 “당사의 주요 파트너사인 방송사업자 KT스카이라이프를 통해 챗봇 솔루션을 구축하고 국내외 방송사업자와 셋톱박스 제조사에 추가로 사업화할 예정”이라고 말했다.

설립일 : 2017년 8월
주요사업 : 메타지식 기반 AI 추천 시스템, LLM 기반 자동 질의응답 시스템
성과 : 2021년 혁신기업 국가대표 1000 선정, 중소기업벤처부 장관상 수상, 2022년 KT GenieLabs 파트너사 선정, 2023년 AI 바우처 공급기업 2건 선정, 2023년 기술보증기금 기술평가등급 ‘AA’ 등급 획득, KT스카이라이프에 메타데이터 큐레이션 공급계약 체결

jinho2323@hankyung.com