Gartner는 2030년 기업 에이전트 작업 90%를 오픈웨이트 모델이 처리할 것으로 본다

분석기관 Gartner가 기업 에이전트 워크플로의 상당 부분을 오픈웨이트 모델로 대체할 수 있다는 분석 문서를 내놨다. 문서 제목이 곧 주장이다. 2030년까지 기업의 운영성 에이전트 워크플로 단계 90%가 오픈웨이트 모델 위에서 실행될 것이라는 계획 가정을 담고 있다. 작성자는 수석 디렉터 Mark Petty와 그룹 부사장 Raymond Paquet이다.

근거는 작업 단계의 성격 분포다. 에이전트 워크플로를 이루는 10개 단계 중 9개는 분류, 도구 호출, 데이터 전달과 검증, 값 맞추기 같은 반복적이고 정형화된 처리라는 관찰이다. 이런 단계는 프런티어급 추론이 필요하지 않다는 것이다. 같은 점수를 받는 조건에서 오픈 모델의 비용은 가장 저렴한 폐쇄형 모델의 4분의 1 수준이고, 모든 단계를 프런티어 모델로 돌리는 구성과 비교하면 20분의 1까지 내려간다.

다만 이 수치는 최선의 경우다. 분석가들 스스로 현재 오픈 모델은 출력이 더 장황하고 재시도가 잦을 수 있다고 인정한다. 그래서 실제 과제 단위 절감은 프런티어 모델 대비 5~6배 정도로 봐야 한다는 설명이 붙는다. 그래도 충분히 큰 차이다.

Gartner가 강조하는 건 절감액 자체보다 통제권이다. SaaS 기업의 인수 대금에서 큰 몫을 차지하는 것이 수년치 워크플로 이력인데, 일상적인 단계를 프런티어 API로 보낼 때마다 그 데이터의 일부가 기업 경계 밖으로 이동한다. 오픈웨이트 모델은 이 흐름을 사내에 붙잡아 두게 해주고, 비용 절감은 그에 따라오는 보너스라는 시각이다. 기업들은 특정 도메인에 특화된 오픈웨이트 모델을 주로 선택할 것으로 예상된다. 소수의 매우 안정적인 단계를 한 달에 수백만 번씩 돌리는 상황에 잘 맞기 때문이다.

모델은 이미 상품화됐고, 가치는 하네스에 있다는 진단도 함께 나온다. 하네스는 에이전트를 실행하고 관리하는 도구 계층으로, 사용자가 눈치채지 못하는 사이 작업을 가장 적합한 모델로 라우팅하는 역할을 맡는다. 하네스가 좋으면 비용이 줄고 가드레일이 단단해지며 여러 에이전트를 한꺼번에 관리할 수 있다. 반대로 하네스가 약하면 사용자가 직접 처리할 일이 늘어난다.

역할 분담도 정리된다. 프런티어 모델은 연구·개발의 엔진이자 사실상 자본 지출로 남고, 무거운 작업을 끝낸 뒤 운영 단계에서는 오픈웨이트 모델이 비용 항목을 맡는다는 구도다. 업계 흐름도 같은 방향을 가리킨다. IBM CEO는 오픈웨이트 모델이 온프레미스에서 쓸 만큼 좋아지고 저렴해졌다고 평가했고, Nvidia는 유럽 고객을 겨냥해 오픈웨이트 모델을 앞세우고 있다.

개발자 입장에서 실무 변화는 모델 선택이 단일 결정에서 라우팅 정책으로 바뀐다는 점이다. 모든 단계에 같은 모델을 붙이는 대신, 정형 단계는 값싼 오픈 모델에 맡기고 추론이 필요한 소수 단계만 프런티어 모델로 보내는 구조를 짜야 한다. 그러려면 단계별 실패율과 재시도 비용을 측정해 어느 지점에서 모델을 바꿔야 하는지 데이터로 알아야 한다.

주의할 전제도 분명하다. 20분의 1은 어디까지나 최선의 시나리오이고, 5~6배라는 현실적인 수치 역시 하네스가 모델을 제대로 골라줄 때 성립한다. 오픈 모델의 장황함과 재시도 습관을 그대로 두면 절감폭은 빠르게 줄어든다. 또 데이터 통제라는 이점은 모델 가중치를 어디서 받아 어디에 두고 어떻게 서빙하느냐에 달려 있어, 배포 방식 자체를 함께 설계해야 얻을 수 있다.