2030년 100조원대 시장 전망...기술 격차 크지만 메모리 강점 살린 신개념 PIM이 돌파구

[커버 스토리]
경기도 성남시 판교에 위치한 SK텔레콤 사옥에서 한 연구원이 AI 반도체를 살펴 보고 있다. AI 반도체는 인공지능 서비스의 구현에 필요
한 대규모 연산을 초고속, 저전력으로 실행하는 효율성 측면에서 특화된 비메모리 반도체로 인공지능의 핵심 두뇌에 해당된다.
경기도 성남시 판교에 위치한 SK텔레콤 사옥에서 한 연구원이 AI 반도체를 살펴 보고 있다. AI 반도체는 인공지능 서비스의 구현에 필요 한 대규모 연산을 초고속, 저전력으로 실행하는 효율성 측면에서 특화된 비메모리 반도체로 인공지능의 핵심 두뇌에 해당된다.
인공지능(AI) 반도체는 AI 서비스 구현에 필요한 대규모 데이터 연산을 고성능·저전력으로 실행하는 반도체다. 기존 반도체(CPU 등)는 범용 목적으로 데이터를 순차적으로 처리했지만 AI 반도체는 대량의 데이터를 동시(병렬) 처리해 복잡한 상황 인식과 판단 등에 최적화된 반도체다.

AI 반도체가 데이터센터·스마트폰·자율주행차 등의 새로운 경쟁 포인트로 부상하면서 AI 반도체 시장은 2018년 70억 달러에서 2030년 1179억 달러로 늘어나 2018~2030년 연평균 26.5%의 고성장이 예상된다. 시스템 반도체 시장에서 AI 반도체 비율은 2018년 2.8%에서 2022년 12%, 2030년 31%로 확대되면서 메모리 반도체 시장 규모로 성장할 것으로 기대된다.

인공지능 구현에 최적화…연평균 26.5% 고성장
미래 산업의 쌀 ‘AI 반도체’…M&A 붐·빅 테크 격전 속 한국의 전략은
AI 도입 초기에는 기존 반도체인 중앙처리장치(CPU)가 사용됐지만 대규모 데이터 처리에 적합한 AI 반도체가 등장했다. AI 반도체 기술은 1세대로 그래픽처리장치(GPU)가 사용됐지만 2세대 AI 전용 반도체(ASIC)가 개발됐고 3세대 인간의 뇌신경 구조를 모방한 뉴로모픽(neuromorphic) 반도체로 발전할 것으로 전망된다. 현재 수요가 많은 GPU는 그래픽 처리를 위한 범용 반도체로, 순차적으로 데이터를 처리하는 CPU와 달리 데이터 병렬 처리가 가능해 대규모 데이터 처리가 필요한 데이터센터 등에 탑재되고 있다.

2012~2020년 AI 알고리즘은 연산량이 600배 이상 증가했지만 GPU 성능은 12배 증가에 머물렀고 GPU의 전력 다소비(400W), 높은 가격(1만 달러 이상) 등으로 인해 AI 전용 반도체 개발이 증가하는 추세다. 하드웨어 프로그래밍이 가능한 프로그래머블 반도체(FPGA)는 대용량 데이터 처리가 가능하지만 비싼 가격이 보급의 장애 요인으로 작용한다. 장기적으로 AI 반도체는 인간의 뇌신경 구조를 모방해 데이터 저장(메모리 반도체 담당)과 연산(시스템 반도체 담당) 등을 함께 처리하는 뉴로모픽 반도체로 진화할 것으로 전망된다.

AI 반도체는 사용 목적에 따라 학습(training : 반복 학습을 통한 지식 고도화)과 추론(inference : 학습된 지식을 기반으로 새로운 정보에 대한 해답 도출)용으로 분류되며 서비스 플랫폼에 따라 데이터센터와 단말기에서 컴퓨팅을 수행하는 에지 컴퓨팅으로 분류할 수 있다. AI 반도체는 사용 목적과 서비스 플랫폼의 성격에 따라 요구되는 기술이 상이할 것으로 예상된다.

맥킨지 컨설팅에 따르면 데이터센터의 AI 학습용 반도체 비율은 2017년 GPU가 97%를 차지했지만 2025년 40%로 낮아지고 AI 전용 반도체의 비율이 50%로 높아질 것으로 전망된다. 데이터센터의 AI 추론용 반도체 비율은 2017년 CPU가 75%를 차지했지만 2025년에는 CPU의 비율이 50%로 낮아지고 AI 전용 반도체의 비율이 40%로 높아질 것으로 보인다.

에지 컴퓨팅의 학습용 반도체 시장은 2017년 CPU와 AI 전용 반도체 중심이었지만 2025년에는 CPU의 비율이 급감하고 AI 전용 반도체의 비율이 70%, FPGA가 20%를 차지할 것으로 전망된다. 에지 컴퓨팅의 추론용 반도체 시장도 2017년 CPU가 60%, AI 전용 반도체가 30%를 차지했지만 2025년 AI 전용 반도체가 70%로 확대되고 GPU가 20%를 차지할 것으로 예상된다.

AI는 활용되는 케이스별로 데이터 처리 속도와 반도체 가격 등의 우선 순위가 달라 CPU와 GPU의 사용도 지속될 것으로 예상된다. 자율주행은 빠른 데이터 처리, 저전력 소비, 반도체 소형화 등이 중요하며 비용 등의 우선 순위는 낮다. 따라서 자율주행 학습용 AI는 AI 전용 반도체, 자율주행 추론용 AI는 빠른 이미지 처리를 위한 GPU와 AI 전용 반도체, FPGA가 필요할 것으로 예상된다. 그에 반해 빠른 길 찾기 서비스는 반도체 소형화, 낮은 비용 등이 중요해 학습은 GPU, 추론은 CPU 사용으로 충분하다.

AI 반도체는 성장 초기 단계로 아직 지배적인 사업자가 없다. AI 반도체 기술 변화, 반도체 기업(인텔·AMD 등)과 빅테크 기업(구글·애플·페이스북 등)의 시장 진출 등으로 경쟁 구도가 다변화되고 있다.

주요 반도체 기업은 AI 반도체 기술 변화에 대응하기 위해 관련 기술 보유 기업 인수·합병(M&A) 등을 통해 사업 포트폴리오를 강화하고 있다. 현재 AI 반도체 시장은 엔비디아·AMD·인텔이 적극적인 움직임을 보이고 있다. 엔비디아는 지배적인 GPU 사업자로, GPU에 최적화된 소프트웨어 플랫폼 CUDA 등을 통해 AI 반도체 성능을 극대화하면서 시장 지배력을 확대했다. 엔비디아는 GPU 이후의 성장 동력을 확보하기 위해 2020년 반도체 설계 자산(IP) 전문 기업 ARM을 인수했다. ARM은 스마트폰의 두뇌인 AP의 IP를 보유한 기업으로, 엔비디아는 ARM 인수를 통해 사업 영역을 자율주행 플랫폼과 에지 컴퓨팅으로 확대할 것으로 예상된다.

AMD는 서버 시장점유율을 끌어올리기 위해 대용량 데이터 처리에 강점이 있는 FPGA 1위 기업 자일링스를 인수하고 CPU·FPGA·GPU를 제공한다. AMD는 PC 시장에서 인텔의 CPU 점유율을 빼앗고 있지만 서버용 CPU 시장은 인텔의 점유율이 절대적이다. 인텔은 FPGA 3위 기업인 알테라와 AI 반도체 스타트업인 이스라엘 하바나랩스를 인수해 CPU·GPU·FPGA 등의 통합 솔루션을 제공할 수 있다.

빅테크 기업들은 자사의 필요한 기능을 강화한 AI 반도체를 개발하고 있다. 구글은 세계 3위의 클라우드 서비스 사업자로, 데이터 처리 속도를 향상시킨 테서플로 처리 장치(TPU)를 개발하고 자사 데이터센터에 적용했다. 테슬라는 엔비디아와 결별하고 자율주행의 경쟁력을 강화하기 위해 AI의 이미지 처리 능력을 향상시킨 완전 자율주행(FSD) 칩을 설계했다. 테슬라가 자체 설계한 반도체는 기존 테슬라 차량에 탑재됐던 반도체 성능을 뛰어넘는 성능을 보여 줬다. 빅테크 기업의 AI 전용 반도체 생산은 아직까지는 자사의 경쟁력 제고가 목적이다.

스타트업도 AI 수요 기업과 연계해 빠르게 경쟁력을 확보하고 있다. 영국 스타트업 그래프코어는 보시벤처캐피털 등으로부터 투자를 유치했고 마이크로소프트는 자사 클라우드 서비스 플랫폼 애저(Azure)에 크래프코어의 AI 반도체를 탑재하면서 경쟁자와 차별화를 꾀하고 있다.
삼성전자 HBM-PIM(Processing-in-Memory)
삼성전자 HBM-PIM(Processing-in-Memory)
기술력 미국의 80.8% 수준…설계 분야에 10년간 2475억원 투자

한국에서 AI 반도체를 연구하는 기관과 기업은 한국전자통신연구원(ETRI)·삼성전자·LG전자 등 10여 개로 추정된다. SK텔레콤이 GPU를 대체할 수 있는 데이터센터용 AI 반도체 사피온(SAPEON) X220를, 삼성전자는 메모리 반도체에 연산 기능을 추가한 PIM(Processing–In-Memory)을 개발했다. 정보통신기획평가원에 따르면 한국의 AI 반도체 기술 수준은 향상되고 있지만 아직까지 최고 기술 보유국인 미국 대비 80.8% 수준으로 기술 격차가 존재한다. 더욱 큰 문제는 한국의 AI 반도체 기술력이 유럽(89.8%)과 일본(88.0%)뿐만 아니라 중국(89.3%)에 비해서도 낮은 수준이라는 점이다. AI 반도체는 타 분야 대비 연구·개발(R&D) 투자 리스크가 크고 AI에 최적화된 소프트웨어 등 다양한 기술 장벽이 존재한다.

정부는 AI 반도체의 중요성을 감안해 2020년 ‘AI 반도체 산업 발전 전략’을 수립했다. 정부는 인재 양성과 혁신 성장형 산업 생태계 조성을 통해 2026년 글로벌 시장점유율 10%를 목표로 설정하고 AI 반도체 설계 분야에 10년간 총 2475억원 이상을 투자할 계획이다. 정부의 정책적 지원하에 한국은 선도 국가와 AI 반도체 기술 격차를 줄여 나갈 수 있을 것으로 기대된다.

한국은 메모리 반도체 강국이지만 시스템 반도체의 세계 시장점유율은 3%로 지난 10년간 정체된 상태다. 따라서 AI 반도체는 메모리 반도체에 편중된 한국 반도체 산업의 균형적 발전과 차세대 성장 산업에서 경쟁력 확보를 위해 반드시 육성이 필요한 분야다. 주요국은 AI 반도체의 주도권을 확보하기 위해 정책적 지원을 확대하고 있다. 미국은 AI 넥스트 캠페인(2019년)을 통해 AI와 이종 칩의 적층·통합, 뉴로모픽 반도체 등 정부 주도의 R&D 지원을 추진한다. 중국은 차세대 AI 발전 규획(2017년) 등 정책적 지원과 알리바바 등 인터넷 기업의 독자 AI 반도체 개발, AI 반도체 스타트업 증가 등으로 AI 반도체 경쟁력이 제고되고 있다.

한국은 미국·중국과 달리 반도체 설계(팹리스) 기업 수가 적고 경쟁력이 약하다. 하지만 AI 반도체는 성장 잠재력이 높고 한국의 메모리 반도체 경쟁력을 기반으로 연산을 담당하는 프로세서와 메모리 반도체가 통합되는 신개념의 PIM 시장을 선점한다면 한국의 시스템 반도체 산업이 한 단계 도약할 수 있는 계기가 될 것으로 예상된다. 이를 위해 한국의 취약한 반도체 설계 육성, 반도체 기업과 수요 기업(데이터센터·자동차 등) 간 연계를 통한 제품 개발과 실증 사업 추진 등에 대한 정부의 지원 확대와 기업들의 적극적인 사업 참여가 필요한 시점이다.

이미혜 한국수출입은행 해외경제연구소 선임연구원