챗GPT는 전 세계적인 열풍을 일으키고 있지만 보안 문제, 개인정보 침해, 데이터 편향 및 할루시네이션 현상(환각 현상, 잘 모르는 문제에 그럴듯한 답을 내놓거나 오답을 정답처럼 이야기함) 등의 부작용을 드러내고 있다. 또한 4000토큰(약 2000줄) 이상의 질문을 할 수 없다는 것도 약점이다.
실제 최근 이탈리아에서는 개인정보 보호 및 국가 정보 유출 방지를 위해 챗GPT 접속을 잠정 차단해 조사하고 있으며, 영국, 캐나다, 프랑스, 미국은 규제 검토에 들어간 상황이다. 국내에서도 삼성전자 반도체 사업장에서 챗GPT 사용을 허용하자 정보 유출 사고가 3건이나 발생하는 등 기업들의 고민이 커져가고 있다.
GPT와 같은 거대 언어 모델(LLM)은 사람처럼 대화를 통해 빠르게 답변을 내어주어 효과적으로 사용하면 단순 반복 업무의 효율성 향상에 매우 큰 도움을 줄 수 있다. 반면에 사용자가 입력하는 질문을 학습하기 때문에 기업에서 사용하기에는 정보 기밀 유지가 쉽지 않다는 점에서 많은 기업들이 사용을 결정하는 데 주저하고 있다. 이에 한국 스타트업 페르소나AI에서 이와 같은 문제점을 보완하고 챗GPT의 장점을 극대화할 수 있는 KGPT를 출시했다. 기업의 문서 자체를 학습할 수 있어 매우 간단하며 개인 정보나 민감정보는 자동으로 마스킹 처리된다. 만약, 민감 정보를 포함한 문서인 경우 높은 보안 등급의 문서로 체크만 하면 챗GPT에 질문하지 않고 KGPT가 답변한다. KGPT는 프라이빗 클라우드나 기업 내부 서버에 있으므로 외부망 유출 등 보안 문제 발생 소지가 없다. 또한, 챗GPT의 질문 토큰 수 제한 없이 약 1000여 권 분량의 책자를 모두 학습해 질문 가능하도록 특수한 알고리즘 설계가 되어있다.
유승재 페르소나AI 대표는 “그간 LLM이나 챗GPT 열풍에 따른 한국 AI 기술에 대한 많은 우려가 있었는데, 한국 스타트업이 이러한 문제를 해결하고 오히려 해외로 역수출하는 프로젝트까지도 진행하고 있어 기쁘다”며 “앞으로 기업 및 공공기관에서도 AI를 더욱 안전하고 실제 사용 가능하도록 관련 업체와 협력하여 최선을 다하겠다”고 밝혔다.
포브스 등에도 소개된 바 있는 페르소나AI는 ‘AI를 만들기 위한 데이터 생성’과 이를 통해 ‘AI를 자동으로 생성’할 수 있는 파운데이션 모델에 해당하는 기업이다. 지난 3월 광주광역시에서 개최된 ‘챗GPT를 이용한 비즈니스, 생성형 AI 기술 트렌드’ 세미나에서 MS와 함께 광주광역시 강기정 시장의 모습을 그대로 재현한 AI 기술 시연을 성공리에 선보이며 주목받은 바 있다.
이정흔 기자 vivajh@hankyung.com
© 매거진한경, 무단전재 및 재배포 금지