챗GPT로 대표되는 생성형 AI가 반도체 시장에 새로운 파장을 일으키고 있다. 생성형 AI를 운용하기 위해 반드시 필요한 고효율 반도체인 ‘AI반도체’에 대한 수요가 폭증한 것이다. 실제로 생성형 AI의 ‘데이터 학습’을 위해서는 1만 개 이상의 AI반도체가 요구되는데, 인공지능이 확산되면 확산될수록 이에 대한 수요는 더욱 증폭될 것으로 보인다. 글로벌 빅테크로 수요가 쏠리고 있는 AI반도체 시장에 출사표를 던진 ㈜퓨리오사에이아이는 혁신적인 고성능·저전력 AI반도체칩 기술력을 기반으로 국내 AI반도체 생태계 구축을 위한 여정의 포문을 열었다.

 

‘AI 열풍’과 함께 수요 폭증하는 AI반도체 시장 패권경쟁에 뛰어든 ㈜퓨리오사에이아이

최근 대용량·대규모 연산에 최적화된 시스템 반도체인 AI반도체가 주목받고 있다. AI 챗봇을 비롯해 자율주행 등 각 산업 분야에서 AI를 활용할수록 AI 반도체에 대한 수요 또한 치솟을 것이라는 전망이다. 시장조사기관 가트너는 AI반도체 시장규모가 연평균 19.9%씩 성장해 2026년 861억 달러를 기록할 것이라 전망하기도 했다. 이러한 ‘AI 열풍’은 반도체 선두주자에의 쏠림 현상을 자아내고 있다. 엔비디아는 데이터센터형 AI반도체 시장을 사실상 독점하는 분위기다. HSBC에 따르면 엔비디아의 H100 데이터센터 그래픽처리장치(GPU)는 해당 분야에서 90%의 점유율에 육박하며, 늘어나는 AI반도체 수요를 맞추지 못할 정도로 주문이 밀려든 것으로 알려졌다. 이와 함께 엔비디아를 대체하려는 움직임이 커지고 있다. 마이크로소프트(MS), 구글, 아마존웹서비스(AWS) 등 글로벌 클라우드 기업들은 자체 AI 반도체를 개발하고, 엔비디아 외 다른 AI 반도체 사업자 제품을 물색하는 등 공급망 다각화에 속도를 내고 있다.

세계적인 AI반도체 흐름에 발맞춰 국내에서도 주도권 선점을 위한 기술개발이 활발하게 이뤄지고 있다. 2017년 설립된 NPU(신경망처리장치) 반도체 기업인 ㈜퓨리오사에이아이는 국내 유일의 AI 전용 반도체 칩 설계 기업으로서 지난해 4월부터 1세대 칩을 삼성전자 파운드리에서 양산하고 있다. 최대 64 TOPS(Tera Operations Per Second)의 데이터 처리속도를 제공하는 1세대 칩인 ‘워보이(WARBOY)’는 카카오를 비롯한 여러 기업의 데이터센터에 실제 적용되고 있으며, 글로벌 AI칩 벤치마킹 테스트에 참가해 유의미한 성능지표를 인정받으며 신뢰도를 높여왔다. 이는 퓨리오사에이아이의 제품이 PoC를 거친 후 실제 양산되었다는 점에서, 그리고 글로벌 빅테크 기업의 영역이라 여겨지던 데이터센터에 스타트업의 제품이 적용되는 첫 사례가 되었다는 점에서 의미가 크다고 볼 수 있다. 백준호 대표는 현실적인 사업 가능성을 염두에 두기보다는 지금 반드시 도전해야 할 영역이라는 판단에서 제품 개발에 뛰어들었다고 설명했다. 현재 AI 연산 처리를 담당하는 GPU가 NPU로 대체된다면 패러다임 전환은 더욱 빨라질 것이라 내다보는 그다.

퓨리오사에이아이가 AI반도체 개발을 시작하던 2017년은 ‘알파고’의 등장 이후 AI의 가능성에 이목이 쏠리던 시기였다. AI의 가능성은 확인되었으나 아직까지 실제 산업에 적용될 수 있는 애플리케이션이 개발되지 않아 AI의 보급과 상용화를 위한 기술개발이 요원했다. 이후 챗GPT의 등장은 AI가 각 산업은 물론 인류의 삶에 중요한 변화를 일으킬 것임을 확인시키는 계기가 되었다. 백 대표는 빠르게 발전한 인공지능 기술을 바라보는 누구나 AI 시장의 성장을 예감할 수 있었을 것이라며, 새로운 산업이 태동한 이때야말로 스타트업이 도전할 수 있는 좋은 시기라는 판단에 AI반도체 시장에 뛰어들었다고 말했다.

새로운 산업이 태동하는 시기에는 언제나 새로운 플레이어들이 등장했다. AI업계의 판도를 뒤흔든 챗GPT를 선보인 것 또한 빅테크가 아닌 200명 남짓의 작은 조직인 오픈 AI였다. 이는 백 대표가 혁신과 변화의 속도가 빠른 영역의 비교우위는 스타트업에 있다고 말하는 이유다. 그리고 지금, 퓨리오사에이아이는 글로벌 시장을 목표로 데이터센터에 적용할 수 있는 경쟁력 있는 AI 반도체 개발에 도전해 시장을 넓혀가고 있다. 백 대표는 AI반도체라는 섹터의 파괴력에 더해진 스타트업의 자본 조달 능력은 스타트업의 경쟁력으로 이어지고 있다며, 지금 AI반도체 영역을 호령하고 있는 엔비디아의 대항마가 나온다면 그것은 스타트업일 것이라 내다봤다.

“창업 당시에도 글로벌 빅테크가 시장을 상당히 장악하고 있었습니다. 다만 엔비디아의 칩이 AI에 최적화된 칩이 아니었기에 AI에 최적화된 반도체 칩이라면 승산이 있으리라 판단했죠. 이후 보다 효율적인 AI반도체 개발에 집중하고 있습니다.”

현재 반도체 기업들은 GPU를 대체할 NPU 개발에 속도를 내고 있다. AI컴퓨팅에 특화된 반도체 NPU는 GPU보다 에너지 효율이 3~5배가량 높고, 우수한 추론 성능을 보인다. 백 대표는 NPU 확산속도가 점차 빨라지다 10~20년 후에는 GPU를 완전히 대체할 것이라 내다봤다. AI 데이터센터 영역에서 AI반도체를 개발하는 국가가 미국을 제외하고는 한국 정도가 유일하다는 점 또한 AI반도체 시장을 긍정적으로 전망하는 이유다. 정부 차원에서 차세대 성장 동력으로 AI반도체를 바라보는 데다 국내 AI반도체 스타트업들이 각자의 역할에 충실히 임한다면 대한민국이 AI반도체 시장에서 뚜렷한 궤적을 남길 수 있을 것이라 내다보는 그다. 현재 우리 정부는 세계 최고 수준의 국산 AI반도체 개발 및 데이터센터 적용을 목표로 K-클라우드 프로젝트를 추진하며 국내 팹리스와 데이터센터의 협업을 추진 중이다.

한편, 퓨리오사에이아이는 정부가 주관한 고성능 컴퓨팅 지원 및 AI바우처 사업에서 수요 기업들이 워보이(WARBOY) AI 칩을 사용해 서비스를 제공할 수 있도록 무려 과반 이상에 가까운 선택을 받기도 했다. 수요 기업들의 원활한 서비스 개발을 위해 관련 개발 도구를 공유하고 SW 스택을 고도화하는 외에도 빠른 안내와 기술 지원을 제공하고 있다. 이와 함께 네이버 클라우드와 컨소시엄을 구축해 AI 반도체팜 구축 및 실증, AI 반도체 시험검증 환경조성 사업을 함께하며 국내 AI반도체의 글로벌 경쟁력 확대를 위한 노력을 이어가고 있다.

 

㈜퓨리오사에이아이만의 설계 역량으로 글로벌 경쟁에서 우위 차지할 수 있는 AI반도체 개발한다

㈜퓨리오사에이아이는 삼성전자 및 글로벌 빅테크 기업 출신들이 모여 설립한 인공지능(AI) 전용 반도체 칩 설계 스타트업이다. 백준호 대표 또한 서울대학교 전기공학부에 입학 후 미국 조지아텍(Georgia Tech)에 편입해 전자공학부 학·석사를 마치고, 미국 반도체 기업인 AMD GPU설계팀에 근무하며 반도체에 대한 경험을 쌓아왔다. 귀국 후 삼성전자 메모리사업부에 4년간 몸담았던 그는 AI반도체라는 새로운 시장의 성장성을 직감하고 1년간의 준비 끝에 퓨리오사에이아이를 설립했다. 퓨리오사에이아이 창업 멤버 또한 상당수가 삼성전자 출신으로 메모리반도체에 대한 높은 이해도를 자랑한다. 여기에 국내 유수의 공과대학 출신들이 합류하며 맨파워를 높였다. 현재 퓨리오사 전체 인력의 70%는 소프트웨어 엔지니어로 구성되어 있다.

“퓨리오사에이아이에 기꺼이 합류해주신 인재들을 바라볼 때면 아직까지도 신기하고 감사한 마음입니다. 아마 지금까지 해온 것을 잘 해내기보다는 새로운 영역에 도전해 분야를 개척하고 싶다는 갈망이 현재의 팀을 만든 것 같아요. 데이터센터에 적용되는 AI반도체를 개발한다는 도전적인 비전에 기꺼이 힘을 보태주셨습니다.”

백 대표는 글로벌 빅테크와의 경쟁에서 우위를 차지할 수 있는 AI반도체를 개발한다는 목표에 대한 공감이 여러 인재들의 참여를 이끌어냈다고 말했다. 현실적인 사업성을 따져야하는 대기업과 달리 다소 비현실적일 수 있더라도 새로운 가능성에 도전하는 스타트업의 비전이 쟁쟁한 인재들의 마음을 사로잡은 것이다. 그는 성취 가능성이 높은 목표가 아닌 반드시 해야 할 높은 목표를 설정했다며, 스타트업의 본질은 생존이 아닌 공격적 도전과 성취에 있음을 강조했다. 이는 도전의 성패를 뜻하지 않는다. 집요하게 도전을 이어가며 결과에 다다르는 것이야말로 스타트업이 갖는 의미라는 설명이다. 그리고 이러한 신념은 퓨리오사에이아이가 팹리스 기업의 경쟁력과 직결된다고 할 수 있는 설계 능력을 유의미한 매출이 나오는 단계까지 끌어올릴 수 있었던 원동력이다.

인간의 뇌에서 뉴런 간 정보 전달의 통로인 시냅스와 비슷한 역할을 수행하는 인공신경망의 파라미터(parameter·매개변수)가 늘어날수록 인공지능이 추론한 결과물이 정교해진다. 일례로 챗GPT는 96개의 레이어와 1750억 개의 파라미터(매개변수)에 기반해 사람의 질문에 정확한 답을 찾고 골라 대답하는 것으로 알려졌다. 심층 인공신경망이 사용하는 연산을 잘 돌릴 수 있는 반도체가 바로 AI반도체인 만큼, AI반도체의 성능은 AI 애플리케이션이 사용하는 연산 처리 속도에서 판가름 난다고 할 수 있다. 즉 딥 뉴럴 네트워크가 AI반도체의 원천 기술인 셈이다.

“도시의 설계가 잘못되었다면 차가 막히는 등 여러 문제가 발생할 수 있습니다. 도시의 기능과 목적에 맞게 여러 자원을 잘 분배해 쾌적하고 효율적인 도시를 설계해야죠. 반도체 또한 잘못된 설계가 비효율성으로 나타날 수 있기에 설계 역량이야말로 팹리스의 경쟁력이라 할 수 있죠.”

백준호 대표는 또한 AI반도체의 확장성을 강조하기도 했다. AI반도체가 최적화되어야 하는 AI 애플리케이션이 빠른 속도로 변화해가고 있어서다. 설계 또한 현재는 물론 미래의 변화를 확장성 있게 담아내는데 초점을 맞추어야 한다는 설명이다. 이는 백 대표가 AI반도체 설계가 대기업보다는 스타트업에 적합하다고 판단한 근거이기도 하다. 효율성이나 규모보다는 본질에 대한 깊은 고민과 반영이 절실한 까닭이다. 그는 결국 고도화된 설계를 할 수 있는 인적 자원과 문화를 구축하는 것이야말로 팹리스 기업 경쟁력의 본질이자 핵심임을 강조했다. 창의적인 발상으로 스스로 난관을 돌파해내는 집단일 때 비로소 AI반도체 경쟁에서 승기를 거머쥘 수 있다는 설명이다.

“퓨리오사에이아이는 기존의 반도체 기업과는 다른 관점에서 본질적인 경쟁력을 쌓아가고 있습니다. 영화나 음악, 애니메이션 산업이 기술을 넘어 콘텐츠가 더해질 때 훨씬 더 높은 부가가치가 창출되는 만큼 기존의 시공 능력에 퓨리오사만의 설계 역량이 더해질 때 비로소 폭발적인 성능을 자랑하는 제품을 만들 수 있기 때문이죠. 공학적으로 우수한 설계를 넘어 아름다운 설계를 구현해내는 것이 퓨리오사에이아이의 목표입니다.”

 

㈜퓨리오사에이아이 성장의 중대한 변곡점 될 2024년, “반드시 2세대칩의 성공 이끌어낼 것”

㈜퓨리오사에이아이의 1세대 칩인 워보이는 2022년 시제품 단계를 거쳐 이제는 본격적으로 양산됨에 따라 여러 데이터센터에 적용되고 있다. 규모는 작을지라도 일부 AI앱을 대체할 수 있음을 입증하며 사업 레퍼런스를 쌓기 시작했다는 점에서 퓨리오사에게도 중요한 마일스톤이 되었다. 백준호 대표는 ‘이제 시작’이라 힘주어 말했다. 1세대 칩이 나오기까지 6년여 동안 설계 등 기반 기술에 관한 경쟁력을 길러온 퓨리오사에게 1세대 칩 양산은 첫걸음을 내딛은 행위라 할 수 있다. 또한, 백 대표는 퓨리오사의 완제품이 데이터센터에 들어갈 수 있음을 보이며 가능성을 입증해낸 만큼 앞으로의 행보가 더욱 중요하다고 덧붙였다. 퓨리오사는 연내 2세대 칩인 ‘레니게이드(Renegade)’ 출시를 계획하고 있다. 1세대 칩 대비 하드웨어 성능은 8배, 데이터 전송 속도는 30배 향상된 2세대 칩은 챗GPT급 대규모언어모델(LLM)을 서비스할 수 있도록 설계된 것이 특징이다. 1세대 칩이 시각지능(컴퓨터 비전)에 중점을 뒀다면, 2세대 칩은 LLM을 포함한 모든 AI작업을 지원한다. 특히 그래픽처리장치(GPU)를 제외한 전 세계 신경망처리장치(NPU) 제품 중 고성능 메모리 반도체 HBM3(고대역폭메모리)를 탑재한 첫 번째 제품으로 주목받았다. 백 대표는 트랜지스터 650억 개가 집적된 2세대 칩은 엔비디아의 A100보다 높은 성능을 자랑한다며, 글로벌 관점에서 볼 때도 볼륨이나 제품성 모두에서 충분한 경쟁력을 가질 것이라 자신했다.

“소규모의 스타트업이 데이터센터에서 엔비디아와 경쟁할 수 있는 제품을 만들겠다고 말한다면 믿기 어려운 것이 사실입니다. 그렇기에 믿음을 갖고 끝까지 해내는 데 역점을 뒀죠. 이를 해낼 수 있는 근본적인 힘을 갖고 있음을 대내외에 보이며 구성원과 투자자, 고객사를 설득하는 것이 무엇보다 중요했습니다.”

퓨리오사에이아이의 성장 과정은 어렵고도 보람된 길이었다. 카카오의 데이터센터에 적용된 1세대 칩 양산 및 보급 또한 ‘안 될 것’이라는 비관을 뚫고 가능성을 입증해낸 제품이었기 때문이다. 스타트업이 글로벌 빅데이터에 맞서는 것은 다윗과 골리앗의 싸움이라는 시선과 데이터센터에 실리콘칩이 들어가면 다 타버릴 것이라는 의견이 팽배했다. 백 대표는 이러한 인식에 맞서 신뢰를 쌓고자 노력했다고 말했다. 스타트업이 생산한 칩이 양산되어 데이터센터에 적용되기까지 칩을 둘러싼 본질적 경쟁력은 물론 자본도 필요했지만, 종국에는 결론에 도달할 수 있는 역량과 의지를 확보하고 있음을 입증하는데 무게를 실었던 그다.

이들이 걸어온 여정에는 쉽게 타협하지 않고 해야 할 일이라면 어렵더라도 반드시 그 길로 나아간다는 비전이 밑받침되어 있다. 높은 목표와 굴하지 않는 의지, 이를 통해 결국엔 이루어낼 혁신이야말로 퓨리오사만의 문화라는 설명이다. 백 대표는 퓨리오사의 전 구성원은 근본적인 문제를 잘 해결하며 혁신해나간다면 제품이 반드시 성공할 수 있다는 철학을 공유하고 있다며, 칩을 개발하는 일련의 과정 동안 이 원칙을 지켜왔다고 말했다.

2024년은 퓨리오사에이아이에게 중요한 한 해가 될 전망이다. 2세대 칩의 성공적인 출시에 회사의 역량을 집중한다는 계획이다. 백 대표는 본격적인 경쟁에 뛰어든 만큼 2세대 칩은 변명의 여지없이 좋은 제품으로 성공시키는데 최선의 노력을 기울일 것이라 전했다. 구성원들의 역량을 최대치로 끌어올릴 수 있는 조직문화를 구축하는 등 오랜 시간 기초 체력을 튼튼히 쌓아온 만큼, 퓨리오사는 본격적인 제품 경쟁에서도 이겨낼 확고한 자신감이 가득했다.

2세대 칩 출시와 함께 퓨리오사 또한 외연적 성장을 거듭할 것으로 기대된다. 전체 시장의 0.1%에서 1% 상당의 매출을 일으킬 수 있다면, 앞으로의 성장 가능성 또한 더욱 커질 것이라는 관측이다. 그는 제품으로서 첫걸음마를 뗐지만 걸음에 담긴 잠재력이 큰 만큼 2세대 칩을 통해 시장을 적극적으로 공략한다면, 글로벌 기업들과도 충분히 경쟁할 수 있으리라 내다봤다. 소비자로부터 선택을 받을 수 있는 완성도에 도달해 1세대에서 양산이라는 마일스톤을 달성하고, 2세대에서 수익성이 있는 제품임을 입증한 만큼 앞으로의 경쟁력 확보를 위해 뚜벅뚜벅 나아간다는 다짐이다. 나아가 향후 3세대 제품에 이르면 본격적 성장궤도에 진입해 의미 있는 규모에 도달할 것이라 기대된다.

“대부분 기업에게 1세대 제품은 PoC의 성격을 갖습니다. 이러한 제품과 이를 만드는 기업을 알리는 데 집중하죠. 2~3세대부터는 본격적인 평가의 무대에 오른다고 할 수 있습니다. 어떻게 보면 지금 퓨리오사가 집약된 노하우로 상품성을 입증해야 하는 시기죠.”

 

혁신적 기술과 제품으로 글로벌 기업 향해 나아가는 ㈜퓨리오사에이아이

㈜퓨리오사에이아이는 글로벌 기업을 향해 나아간다. 지금껏 유니콘 반열에 오른 스타트업들은 대부분 플랫폼 기업이나 내수 중심의 서비스 기업이 대부분이었다. 백준호 대표는 혁신적 기술과 제품을 발판삼아 글로벌 스케일로 확장한 성공모델을 세우겠다는 포부를 전했다. 이러한 사례가 우리 산업에 온기를 더해 글로벌한 경쟁력을 갖춘 기업들이 탄생하는 마중물이 될 수 있는 까닭이다. 백 대표는 앞서 도전한 기업들이 중요한 이정표가 되어주었듯 퓨리오사에이아이가 후배 기업들에게 새로운 관점과 가치, 성공사례를 제시할 것이라 전했다.

지난 2월에는 첫 해외 고객 확보소식을 전하기도 했다. 미국의 스트리밍 및 클라우드 기업 ‘시부(SIVOO)’에 AI칩을 공급한 것이다. 이번 공급은 1세대 칩이 국내 데이터센터와 해외 샘플 제공을 넘어 해외 실제 상용 서비스에 첫 사례이다. 2000년 설립된 시부는 미국을 비롯한 100여 개 국가에 영상 콘텐츠와 클라우드 서비스를 제공하고 있다. AI반도체가 소비하는 전력 대비 높은 성능이 AI 데이터센터 등 인프라 총소유비용(TCO)를 낮출 수 있다는 점이 이번 계약을 성사시켰다. 양사는 출시를 앞둔 2세대 반도체칩의 공급방안을 논의하고 있는 것으로 알려졌다. 이외에도 퓨리오사에이아이는 다양한 해외 고객사와의 사업 협력을 추진 중이다.

백 대표는 AI반도체는 최첨단 기술과 인적 자원이 투입되어 완성도를 높여가는 분야라며, 세계적인 스케일업을 목표로 글로벌 인재를 확보하고, 대규모 펀딩을 추진해나갈 것이라 말했다. 새로운 기술과 창의적 방식으로 혁신을 만들어내는 퓨리오사에이아이가 한국의 새로운 핵심 경쟁력이 될 AI반도체 산업의 성장을 견인하고 있다.