엔비디아가 GPU를 덜 쓰는 인도 추론 스타트업 심플리스마트를 지원한다

TechCrunch5일 전

엔비디아가 인도 벵갈루루에 기반을 둔 스타트업 심플리스마트의 1,400만 달러 규모 시리즈 B 라운드에 참여했다. 심플리스마트는 AI 모델과 그것이 돌아가는 컴퓨팅 인프라 사이에 끼어들어, 모델을 어떤 방식으로 배포하고 운영할지 자동으로 조정하는 소프트웨어를 만든다. 고객이 GPU를 새로 사들이지 않고도 보유한 장비에서 더 많은 작업을 뽑아내게 하는 것이 핵심이다.

이번 라운드는 댈러스 벤처 캐피털이 리드했고 액셀, 샤스트라 VC, 마이크로맥스가 함께 이름을 올렸다. 신규 자금을 포함한 기업가치는 약 1억 달러로 평가됐다. 2022년에 설립된 이 회사는 현재 58명 규모이며, 오라클 출신의 암리탄슈 자인과 구글 출신의 데반시 가탁이 공동 창업했다. 두 사람은 BITS 필라니에서 함께 공부하던 시절에 만났고, 머신러닝 시스템을 직접 구축하고 배포한 경험을 회사로 옮겼다.

제품 구성은 크게 세 갈래다. 자사 플랫폼에서 모델을 배포·운영하거나, 고객이 이미 쓰는 클라우드와 온프레미스 환경 안에서 돌릴 수 있다. 여기에 모델 파인튜닝 도구, 수요 변화에 맞춘 자원 자동 확장, 성능 모니터링 기능이 붙는다. 클라우드 사업자가 자체 GPU 인프라 위에 추론 서비스를 직접 구축하고 운영할 때도 이 소프트웨어를 쓸 수 있다.

성과 지표도 함께 공개됐다. AI 영상 생성 플랫폼 인비디오는 심플리스마트를 도입해 GPU 서빙 비용을 56% 줄였다고 한다. 헤이젠과 힉스필드 같은 AI 영상 기업, 엔터프라이즈 AI 스타트업 에마도 고객 명단에 있다. 인도 클라우드 사업자 요타는 자사 샤크티 스튜디오 플랫폼의 서버리스 추론 서비스를 이 기술로 돌린다. 자인 CEO에 따르면 최근 6개월 동안 연환산 매출은 14배 늘어 여덟 자리 수에 도달했으며, 매출의 절반 이상이 미국에서 나온다. 다만 고객 수 자체는 인도가 더 많다.

배경에는 추론 워크로드의 성격 변화가 있다. 학습과 달리 추론은 서비스가 살아 있는 내내 계속 비용을 발생시키고, 애플리케이션마다 속도와 비용, 성능 사이에서 요구하는 균형점이 다르다. 게다가 그 균형을 맞추려면 배포 설정을 손봐야 하는데, 이 작업을 고객이 직접 감당하기 부담스럽다는 것이 이 회사가 파고든 지점이다. 자인 CEO는 인터뷰에서 가장 빠르거나 가장 저렴한 추론을 필요로 하는 고객은 없다는 취지로 말한다. 각자의 애플리케이션에 맞는 속도와 비용 조합이 필요하다는 것이다.

엔비디아와의 관계는 투자에 그치지 않는다. 양사는 엔비디아의 추론 소프트웨어인 다이나모를 둘러싼 기술 통합을 진행 중이며, 심플리스마트 엔지니어와 엔비디아 솔루션 아키텍트가 함께 작업한다. 엔비디아가 잠재 고객과 파트너를 소개해 주는 역할도 했다. GPU를 덜 쓰게 만드는 소프트웨어에 GPU 최대 공급사가 투자한다는 점은 얼핏 모순처럼 보이지만, 추론 효율이 올라가면 AI 애플리케이션 보급이 넓어지면서 결국 자사 하드웨어의 매력도 커진다는 논리다.

개발자 입장에서 눈여겨볼 대목은 최적화의 방향이다. 경쟁 제품들이 '더 빠르게' 또는 '더 저렴하게' 같은 미리 정해진 옵션을 제시하는 것과 달리, 심플리스마트는 고객별 요구에 맞춘 균형점을 찾는 쪽을 내세운다. 자인 CEO는 서비스 수준 협약(SLA)과 총소유비용(TCO) 조건이 빡빡한 곳에서 승부가 난다고 설명한다. 이미 GPU를 상당량 확보해 둔 조직이라면, 인프라 증설 없이 응답 속도와 처리량을 조정할 여지가 생긴다는 뜻이다.

시장은 만만치 않다. 엔비디아 자체 제품은 물론 AWS, 구글 클라우드, 마이크로소프트 애저 같은 대형 클라우드 사업자와 정면으로 겹치고, 추론을 빠르고 싸게 만드는 도구를 내놓는 스타트업도 계속 늘고 있다. 매출 성장률 역시 계약 기반의 반복 매출이 아니라 최근 고객 사용량을 바탕으로 계산한 값이고, 인프라 사업자에게 넘기는 매출은 제외한 수치다. 정확한 금액은 공개되지 않았다. 한편 인도 경제지가 보도한 4,000만~5,000만 달러 규모의 추가 유치설에 대해 자인 CEO는 언급을 피하면서, 시리즈 B는 마무리됐고 확장 계획은 없다고 선을 그었다.

새 자금은 미국 시장 확장과 인력 충원, 추론 소프트웨어 개발에 투입된다. 미국은 이미 매출 비중이 가장 큰 시장인 만큼, 회사는 이쪽 고객 기반을 더 넓히는 데 무게를 두고 있다.