[2024 광운대학교 산학협력단 스타트업 CEO] AI 기술이 집약된 악성코드 모델링 및 분석 플랫폼을 개발한 스타트업 ‘메타포렌식’

정성균 메타포렌식 대표(DDM 청년창업센터 유니콘 입주기업)

-대규모 언어 모델을 통해 기존 탐지망을 우회하는 제로데이 공격까지 대응
-고급 보안 리포팅 자동화 기술로 전문가급 위협 분석 보고서를 즉시 출력

메타포렌식은 인공지능 솔루션을 개발 및 공급하는 스타트업이다. 정성균 대표(32)가 2022년 4월에 설립했다.

정 대표는 고려대학교 정보보호대학원에서 정보보호학 석사 과정을 마치고, 7년간 AI R&D 업계에서 경력을 쌓아왔다. 한국인터넷진흥원(KISA) 주관 AI 기반 악성코드 탐지 대회에서 2회 연속 개인 우승을 차지했으며, 이전 직장에서는 안드로이드 백신 개발을 주도해 국내 보안 업계 최초로 모든 글로벌 주요 안티 바이러스 테스트에서 최고 등급을 달성한 바 있다.

메타포렌식은 차세대 인공지능 기술을 개발하는 스타트업이다. “현재 산업을 주도하는 대부분의 인공지능 기술이 주로 텍스트, 이미지, 오디오와 같은 직관적인 데이터 처리에 치중됐지만, 우리의 목표는 이해에 매우 높은 전문성을 요하는 데이터까지도 고차원적으로 자동 분석할 수 있는 기술을 제공하는 것입니다. 이를 통해 인공지능 기술의 응용 범위를 확장하고 다양한 산업 분야의 의사결정 프로세스를 혁신하고자 합니다.”

메타포렌식의 핵심 아이템은 최신 AI 기술이 집약된 악성코드 모델링 및 분석 플랫폼이다. 이 플랫폼은 모든 유형의 파일을 대상으로 위협을 탐지하고, 악성코드의 구조와 동작 방식, 잠재적 위험성을 분석할 수 있다. 그리고 그 내용은 자체 개발한 대규모 언어 모델을 통해 직관적인 보안 분석 보고서로 즉시 출력된다.

“이처럼 복잡한 파일 원본을 시스템에 입력하는 것만으로 고도로 숙련된 보안 전문가 관점의 심층적인 해석 과정 전체를 자동화하는 기술은 글로벌 시장에서도 유례가 없습니다. 단순한 기능 개선을 넘어 악성코드 분석과 대응 방식의 패러다임을 완전히 바꿀 수 있는 잠재력이 있습니다.”

전통적인 보안 솔루션들은 주로 데이터베이스화된 알려진 위협 패턴을 기반으로 악성코드를 탐지한다. 이러한 접근 방식이 널리 사용되는 이유는 명확성과 신뢰성 때문이다. 이미 확인된 위협 정보를 바탕으로 하기 때문에 오답률이 낮고, 탐지 결과에 대한 근거가 명확하다. 그러나 이 방식은 공격자가 데이터베이스에 정의된 일부 패턴만 변경해도 쉽게 우회할 수 있기 때문에 실효성 측면에서 많은 한계를 가진다.

“일반적으로 인공지능이 이러한 한계를 극복할 수 있는 방법으로 알려졌지만, 사이버 보안 분야에서는 활용에 큰 제약이 따릅니다. 그 이유는 AI 모델의 동작 방식, 즉 추론 결과의 근거를 사람이 명확히 이해하기 어렵다는 점에 있습니다. 보안 분야에서 다루는 데이터는 주로 컴퓨터에 의한 이해를 위해 설계된 바이너리(비텍스트) 포맷이며, 심지어 대부분 난독화나 암호화가 되어 있어 전문 지식이 있더라도 이해하기가 매우 어렵습니다. 따라서 AI 모델이 특정 파일을 정상 또는 악성이라고 판단하더라도 그 결과가 정확한지 검증하고 비즈니스에 응용하기 위해서는 결국 고도의 전문성을 가진 사람의 데이터 해석 능력에 의존할 수밖에 없습니다. 이러한 이유로 보안 분야에서는 AI 기술의 혜택을 충분히 누리지 못하고 있으며, 여전히 데이터베이스 기반의 레거시 기술에 크게 의존하고 있습니다.”

정 대표는 “메타포렌식은 이러한 보안 업계의 고질적인 문제를 혁신적으로 해결한다”고 말했다. “우리의 자동화 분석 시스템은 업계 최고 수준의 악성코드 탐지 성능을 보증하는 동시에, AI 모델의 판단 근거를 명확히 설명하며 탐지 결과의 신뢰성까지 자체적으로 검증합니다. 특히 주목할 점은 AI 모델이 기존에 학습하지 못한 새로운 유형의 위협에 대해서도 잠재적 위험성을 상세히 분석하고 설명할 수 있다는 것입니다. 이는 제로데이 공격이나 지능형 지속 위협(APT)과 같은 신종 위협에 대해서도 선제 대응을 가능케 합니다. 마치 숙련된 보안 전문가가 수십 시간에 걸쳐 수행해야 할 상세한 분석 과정을 단 몇 초 만에 자동화하는 것과 같습니다.”

정 대표는 “이러한 접근 방식은 보안 업계에 여러 가지 혁신을 가져올 수 있다”며 “파일의 모든 측면을 종합적으로 분석하여 미세한 이상징후까지 감지하기 때문에, 공격자들이 이를 우회하기 위해서는 악성코드의 근본적인 구조와 작동 방식을 완전히 재설계해야 하는 부담을 안게 된다”고 말했다.

“메타포렌식은 전문가의 개입 없이도 고품질의 보안 분석을 자동화하여 위협 대응 속도를 크게 향상하며 새로운 위협에 대해 즉각적인 대응 방안을 제시합니다. 더불어, 복잡한 보안 위협을 비전문가도 쉽게 이해하고 대응할 수 있게 함으로써, 조직 전체의 보안 수준을 높이는 데 크게 기여합니다. 이러한 다각도의 기술적 진전은 기업의 전반적인 사이버 보안 태세를 강화하고, 날로 진화하는 위협 환경에서 더욱 효과적으로 대응할 수 있는 새로운 표준을 제시합니다.”

메타포렌식 기술의 가장 큰 경쟁력은 인공지능 기술을 활용한 악성코드 분석의 정확성과 효율성, 그리고 결과의 해석 가능성을 동시에 실현했다는 점이다. 현재 시장을 주도하는 AI 기반 보안 기업들의 솔루션은 파일을 악성코드로 탐지하지 못할 경우 아무런 후속 분석을 제공하지 않아, 사용자는 탐지 모델을 우회하도록 설계된 공격에 무방비로 노출될 수밖에 없다. 반면 메타포렌식은 자체 탐지 결과와 무관하게 모든 파일의 설계 의도와 잠재적 위험성을 철저히 분석하고, 그 목적이 불분명하거나 의심스러운 경우 이를 명확히 지적하여 선제적 방어를 가능케 한다.

“이러한 접근은 전통적인 시그니처 기반 솔루션이나 단순한 머신러닝 모델로는 달성하기 어려운 성과로 보안의 사각지대를 획기적으로 줄입니다. 기존 솔루션들이 ‘악성’과 ‘정상’이라는 이분법적 판단에 그친다면, 우리의 플랫폼은 파일의 모든 측면을 심층 분석하여 잠재된 위험까지 발견합니다. 특히 제로데이 공격과 같이 기존 탐지 체계를 우회하도록 설계된 지능형 위협에 대해서도, 비정상적인 설계 패턴을 포착하여 사전 경보를 제공할 수 있습니다.”

또 다른 강점은 확장성, 광범위한 적용 범위, 그리고 고도의 사용자 맞춤화 능력이다. 대부분의 보안 솔루션들이 특정 파일 형식이나 플랫폼에 국한되고 정형화된 보고서만을 제공하는 반면, 메타포렌식의 솔루션은 모든 유형의 파일을 분석할 수 있으며 보고서의 양식과 내용을 유연하게 조정할 수 있다. 이러한 유연성은 복잡하고 다양화되는 현대 IT 환경에서 큰 장점으로, 고객이 자신의 비즈니스 맥락에 가장 적합한 형태로 정보를 받아 보안 인사이트의 실질적 활용도를 높일 수 있게 한다. 정 대표는 “결과적으로 이는 단순한 보안 도구를 넘어 각 조직의 보안 전략을 지원하는 맞춤형 솔루션으로 기능하며 핵심적인 차별점을 제공한다”고 말했다.

메타포렌식은 글로벌 시장을 겨냥한 혁신적이고 다각화된 접근법을 통해 판로 개척 전략은 세우고 있다. 정 대표는 “현재 웹 기반의 악성코드 분석 서비스를 글로벌 시장에 공개할 준비를 하고 있다”며 “이 서비스는 초기에 영어와 한국어를 지원하며, 향후 시장 수요에 따라 다국어 지원을 확대할 계획이다. 이러한 언어적 유연성은 우리 서비스의 국제적 접근성을 크게 향상할 것”이라고 말했다.

“메타포렌식 마케팅 전략의 핵심은 실제 사용 사례를 통한 신뢰 구축입니다. 사전 데모 서비스를 통해 이미 국내 보안 업계 관계자들로부터 매우 긍정적인 반응을 얻었으며, 이는 실질적인 매출로 이어지는 중요한 레퍼런스가 되고 있습니다. 더불어, 우리는 B2B 협력 모델을 통해 시장 진입을 가속화하고 있습니다. 자사의 첨단 인공지능 기술을 파트너사의 제품에 통합하는 방식으로, 보안 업체들이 자사 제품을 차별화할 수 있도록 지원하고 있습니다. 보안 컨퍼런스와 전시회에 적극적으로 참가하여 메타포렌식의 기술력을 선보이고 있습니다. 이를 통해 업계 전문가들과 직접 소통하며, 우리 기술의 우수성을 시연하고 잠재 고객들의 관심을 유도하고 있습니다.”

정 대표는 어떻게 창업하게 됐을까. “메타포렌식의 설립은 인공지능 기술의 잠재력과 정보보안 분야의 현실적 한계 사이의 간극을 해소하고자 하는 열망에서 비롯됐습니다. AI 연구 개발 분야에서 오랜 경험을 쌓으면서, 저는 AI 기술이 다양한 산업 분야를 혁신적으로 변화시키는 모습을 목격했습니다. 그러나 동시에 정보보안과 같은 고도로 전문화된 영역에서는 AI 기술의 실질적 적용과 그 효과가 제한적이라는 점을 깨달았습니다. 이러한 현실은 저에게 큰 도전 과제이자 기회로 다가왔습니다. AI 연구 개발 분야에서 오랜 경험을 쌓으면서, 보안 분야의 고질적인 문제를 해결하고 이 간극을 메울 수 있는, 글로벌 수준의 기술 경쟁력을 확보할 수 있다는 확신을 갖게 됐습니다.”

창업 후 정 대표는 “가장 큰 보람을 느끼는 부분은 우리가 추구하는 기술적 혁신의 가능성과 잠재력을 확인해 나가는 과정 자체”라고 말했다.

“특히 최근 생명과학 분야에서 AI 기술을 통해 개발된 알파폴드(AlphaFold)의 개발자가 노벨 화학상을 받은 사례는 우리에게 큰 영감이 됐습니다. 알파폴드가 단백질 구조라는 특수한 데이터를 처리한 것처럼 메타포렌식도 사이버 보안이라는 고도로 전문화된 영역에서 유사한 혁신을 추구하고 있습니다. 이러한 선례들이 우리의 방향성에 대한 확신을 더욱 강화해 주고 있습니다. 연구 개발 과정에서 우리 AI 모델이 보여주는 잠재력은 종종 저희의 예상을 뛰어넘습니다. AI 기술의 가장 놀라운 점은 개발자의 지식 범위를 넘어서는 결과를 만들어낼 수 있다는 것입니다. 현재 메타포렌식의 서비스가 보안 업계의 전문가들로부터 높은 평가를 받고 있다는 사실을 통해, 이 기술이 보안 업계에 새로운 표준을 제시할 수 있다는 가능성에 큰 자부심과 보람을 느끼고 있습니다.”

앞으로의 계획에 대해 정 대표는 “현 단계에서의 메타포렌식의 주요 목표는 자사의 AI를 통해 사이버 보안 분야의 큰 기술적 변화를 주도하는 것”이라며 “우리는 현재의 악성코드 분석 플랫폼을 기반으로 더욱 포괄적인 AI 기반 보안 생태계를 구축하고자 한다”고 말했다. 덧붙여 “이를 위해 우리의 기술 적용 범위를 네트워크 트래픽 분석, 엔드포인트 보안, 위협 인텔리전스 등 다양한 보안 영역으로 확장할 예정”이라고 말했다.

“궁극적으로는 메타포렌식 플랫폼 내에서 모든 유형의 심층적인 보안 분석 과정을 완전히 자동화하는 것입니다. 이는 전문 지식이 없는 일반 사용자도 고도의 보안 분석을 수행할 수 있게 만드는 혁신적인 변화를 의미합니다. 이를 통해 우리는 기업과 조직의 보안 역량을 크게 향상시키고, 전반적인 사이버 보안 생태계의 발전에 기여하고자 합니다. 장기적으로는 메타포렌식의 AI 기술을 보안 분야를 넘어 다양한 산업 영역으로 확장하는 것을 목표로 하고 있습니다. 우리의 기술이 가진 복잡한 데이터 분석 및 해석 능력은 금융, 의료, 제조 등 다양한 분야에서 활용될 수 있는 잠재력이 있습니다. 이를 통해 메타포렌식은 단순한 보안 기업을 넘어, 첨단 AI 기술을 통해 다양한 산업의 혁신을 주도하는 글로벌 기술 기업으로 성장하고자 합니다.”

설립일 : 2022년 4월
주요사업 : 인공지능 솔루션 개발 및 공급
성과 : IITP 인공지능 기술 활용 디지털 증거 분석 기법 개발, 위탁 연구개발 업체 선정(2022~2025), 인공지능 기반 사이버 공격 탐지 시스템 구축 및 지원 사업 수행 (2023.01~2023.12), 보안 전문가 능가하는 AI 악성코드 분석 리포팅 데모 서비스 개발 (2024.09)

이진호 기자 jinho2323@hankyung.com