AI 토큰 가격이 내려가는데 H100 임대료는 오르는 제번스 역설이 관측됐다

AI 토큰의 단가가 계속 떨어지고 있는데도 H100 GPU 임대 가격은 떨어지지 않거나 오히려 오르고 있다는 관측이 나왔다. Ornn과 Silicon Data, 블룸버그가 2026년 8월까지 모은 데이터를 근거로 한 것으로, a16z는 이 현상을 AI 시장에서 나타난 전형적인 제번스 역설이라고 부른다.

숫자가 말하는 방향은 단순하다. 토큰 가격 지수는 꾸준히 하락하는 반면 H100 임대 가격 지수는 보합이거나 상승 궤도를 유지한다. 단위 가격이 싸졌는데도 그 단위를 사들이는 비용은 줄지 않는다는 뜻이다.

제번스 역설은 효율이 좋아져 자원 한 단위의 비용이 낮아지면, 오히려 그 자원의 총소비량은 늘어난다는 개념이다. AI에서는 값싸진 토큰이 그동안 비용 때문에 막혀 있던 활용처를 열어젖힌다. AI 에이전트, 자동화 파이프라인, 새 애플리케이션이 그렇다. 결과적으로 사용량이 늘어나는 속도가 단가가 떨어지는 속도를 앞지르면서, 전체 컴퓨트 수요는 오히려 커진다.

개발자 입장에서 이 흐름이 주는 신호는 분명하다. 모델 API 단가가 내려갔다는 뉴스는 청구서가 그만큼 줄어든다는 보장이 아니다. 특히 에이전트형 AI는 토큰을 남다른 속도로 태워버리기 때문에, 단가 인하분을 워크로드 증가가 곧바로 삼켜버릴 수 있다. 캐싱, 모델 라우팅, 컨텍스트 길이 관리처럼 토큰 소비 자체를 줄이는 설계가 여전히 유효하고, GPU 확보 경쟁도 당분간 이어질 가능성이 크다.

다만 이 수요가 어디서 오는지는 명확하지 않다. 사람이 직접 쓰는 사용량과 시스템이 스스로 돌아가며 만들어내는 사용량이 각각 얼마인지 구분되지 않는다는 점이 원문도 짚는 한계다. 에이전트가 토큰을 대량으로 소모하는 구조 탓에 컴퓨트 수요가 실제보다 부풀려져 있을 수 있고, 반대로 인간 사용량이 조금만 늘어도 하드웨어 수요는 그보다 훨씬 크게 튈 수 있다.

결국 이 전체 구조는 하나의 가정 위에 서 있다. AI 사용량이 토큰 가격 하락을 상쇄할 만큼 빠르게 늘어나야 한다는 것이다. 그 조건이 유지되는 동안에는 하드웨어가 희소하고 비싼 상태로 남는다. 반대로 수요가 평탄해지면 칩 제조사와 메모리 공급사, 에너지 기업, 클라우드 사업자로 이어지는 사슬이 흔들린다.

시장이 이미 얼마나 예민해져 있는지는 최근 사례로 드러났다. OpenAI의 연환산 매출이 앞서 보고된 것보다 낮을 수 있다는 보도가 나오자 미국 주가가 하락했다. 토큰 단가와 GPU 임대료라는 두 지표가 앞으로도 같은 방향으로 움직일지가 이 사슬 전체의 향방을 가를 변수다.