톈수즈신이 톈가이300 실측치를 공개하며 일부 추론에서 H200 우위를 주장했다

InfoQ 中文그저께

톈수즈신(天数智芯)이 10월 28일 자사 범용 GPU 톈가이300의 실기를 처음 공개하고, PD(Prefill·Decode) 분리 배포 환경에서 카드당 환산 엔드투엔드 처리량이 NVIDIA H200의 1.05배라는 제3자 테스트 결과를 제시했다. 같은 자리에서 AFD 분리 구성과 144개 GPU를 한 랙에 넣는 IXL144 슈퍼노드, 자사 소프트웨어 스택, 엣지 단말 퉁양(彤央) TY1200을 시연했고 차세대 엣지 제품 TY2000도 예고했다.

수치의 상당 부분은 회사 성능 실험실에서 나온 내부 측정값이다. 64K 컨텍스트 구간에서 Attention 성능이 H200의 1.05배, GLM-5.3 모델의 64K 컨텍스트 테스트에서 동일한 사용자 경험 기준을 만족할 때 MoE 처리량이 1.15배라는 결과를 제시했다. 8K~128K 구간의 에이전트 첫 토큰 지연은 H200보다 10~30% 낮고 멀티모달 생성 추론 처리량은 2~5% 높다는 설명이다. 검색·광고·추천 같은 온라인 업무에서는 추천 추론 처리량 21% 향상, 경량 연산 지연 26% 감소를 기록했다고 한다.

학습 쪽에서는 Qwen3-32B 기반 8카드 한 대 구성의 FP8 학습에서 카드당 유효 처리량이 H100의 1.33배로 측정됐다. 강화학습은 1024카드로 40B 활성 파라미터, 총 1T 규모 MoE를 500억 토큰까지 생성하는 과제에 약 26일이 걸린다는 엔지니어링 추정치도 나왔다. 이 추정은 모델 구조와 병렬 전략, 연산 이용률에 따라 달라진다고 회사는 전제했다. 만부하 운전 시 스텝 타임 변동은 0.43%로, 비교 대상인 Hopper 기반 방식의 0.76%보다 낮다고 밝혔다.

소프트웨어 계층에서는 CUDA 시맨틱을 네이티브로 지원하고 주요 프레임워크 적응을 마쳤다고 한다. AFD 분리에서는 톈가이300이 Prefill 전 과정과 Decode의 Attention 연산을, 협력사 XPU가 FFN 전문가 네트워크를 맡는 구조로 Decode 추론 지연을 60% 줄였다는 설명이다. IXL144는 랙당 144개 GPU와 약 10.1TB 집계 메모리를 제공하며 100만 유효 토큰당 비용을 국제 주류 방식보다 약 40% 낮췄다고 주장했지만, 비교 대상과 산정 조건은 공개하지 않았다. 차세대 P2P 인터커넥트로 도메인 내 단일 전송 지연을 3~5마이크로초에서 1마이크로초까지 낮추는 것을 목표로 내걸었다.

에이전트를 개발 작업에 투입한 사례도 함께 제시됐다. PD 분리 배포 작업을 약 1시간에서 10분으로, 수동 조작 단계를 수십 단계에서 1단계로 줄였다는 것이다. 성능 튜닝은 7일 걸리던 작업을 2시간 이내로 단축하고 같은 하드웨어·모델·정밀도에서 성능을 거의 두 배로 끌어올렸다고 한다. FlyDSL과 연동한 코드 생성 흐름에서는 10인일 분량을 1명이 시간 단위로 처리하고 컴파일 속도를 90% 이상 높인 결과를 제시했다. 모두 특정 과제 기준이다.

엣지에서는 밀집 연산 기준 300 TOPS의 퉁양 TY1200을 내세웠다. Qwen3.8-27B, Qwen3.6-35B-A3B 모델 테스트에서 NVIDIA Thor T5000의 1.2배 성능을 냈다고 주장했고, 월드 모델 테스트에서는 Cosmos-R2-2B에서 158%, Cosmos-R2-8B에서 180%를 기록했다고 한다. 오픈소스 영상 모델 MiniMax H3로는 1056×608 해상도 5초 영상을 평균 약 6분, 1376×768에서는 약 11분에 생성한다. 다만 하드웨어 구성과 정밀도, 동시성, 평가지표는 공개되지 않았다. 차세대 TY2000은 600T를 목표로 예고됐을 뿐 사양과 전력, 출시 시점, 가격은 나오지 않았다.

개발자 입장에서 이번 발표의 핵심은 개별 성능 숫자보다 배치 유연성이다. Prefill과 Decode를 분리하고 GPU와 XPU에 연산을 나눠 맡기는 구성은 기존 추론 파이프라인을 여러 가속기 위에 재배치할 수 있다는 뜻이며, CUDA 시맨틱 지원 주장이 사실이라면 기존 코드 자산을 크게 고치지 않고 시험해 볼 여지가 생긴다.

다만 PD 분리 성능은 모델과 동시 접속 규모, 연산·통신 오버헤드에 크게 좌우된다. 제3자 테스트 역시 조건이 전부 공개된 것은 아니므로, 공개된 배수는 도입 검토 시 자사 워크로드로 다시 측정해야 할 출발점 정도로 보는 편이 안전하다.