AI가 스스로 작성한 커널, DeepSeek 손튜닝 성능을 벤치마크에서 앞질러

DeepSeek이 추론 프레임워크 DeepInfer를 전면 오픈소스화했다. 모델 가중치와 FlashMLA, DeepGEMM 같은 커널 라이브러리를 공개해 온 흐름에서 한 단계 더 나아가, 모델이 실제로 실행되는 경로 자체를 열어둔 것이다. 같은 시기에는 AI가 사람의 손을 거치지 않고 작성한 커널이 주요 커널 벤치마크 두 곳에서 1위를 기록했다는 발표가 나왔다.

공개된 내용 중 FlashMLA는 엔지니어가 칩 위에서 한 줄씩 직접 튜닝한 버전으로, 하드웨어 한계의 90% 이상을 끌어냈다고 알려졌다. 반면 ForgeKernel은 사람의 줄 단위 튜닝 없이 AI가 커널 전체를 작성한 사례다. 발표에 따르면 10월 22일 기준으로 NVIDIA가 중심이 된 SOL-ExecBench FlashInfer-Bench 통합 부문 1위와, Ascend(昇腾) CANN 공식 저장소가 관리하는 CANNBench A3 하드웨어 부문 1위를 동시에 차지했다. 기준 대비 가속비는 1.835배이며 2위와는 25% 차이라고 한다.

벤치마크 순위 외에 주목할 대목은 적용 범위다. 발표 측은 DeepSeek v4.1 Flash의 커널에서도 DeepSeek이 공개한 NVIDIA 버전과 비교해, AI가 처음부터 반복적으로 개선하는 방식만으로 성능을 앞섰다고 밝혔다. 기존 커널을 손보는 수준이 아니라 백지에서 다시 만들어낼 수 있다는 주장이다.

배경에는 국내외 대형 모델 경쟁이 모델 계층에서 연산 계층으로 내려오고 있는 흐름이 있다. 아무리 좋은 모델도 결국 커널을 통해 칩 위에서 실행되며, 같은 모델에 같은 GPU를 써도 커널을 어떻게 짜느냐에 따라 성능이 몇 배씩 갈린다. 커널 효율은 곧 토큰 한 개의 가격을 결정하는 변수이기도 하다.

개발자 입장에서 이 소식의 핵심은 커널 최적화가 더 이상 소수 전문가의 수작업 영역에만 머물지 않는다는 점이다. NVIDIA 계열과 Ascend 계열 벤치마크에서 동시에 상위 성능을 냈다는 주장이 사실이라면, 특정 하드웨어에 종속된 암기식 최적화가 아니라 새 모델과 새 칩에 빠르게 대응하는 자동 탐색 파이프라인으로 읽힌다. 추론 서버를 직접 운영하는 팀이라면 모델 교체 주기마다 따라오는 커널 재작업 비용을 다시 계산해 볼 만하다.

다만 수치는 발표 측이 제시한 값이다. 벤치마크의 세부 설정이나 베이스라인 조건, 재현 방법은 원문에서 구체적으로 확인되지 않으며, '하드웨어 한계의 90% 이상'이라는 표현 역시 자체 측정 기준에 기반한 주장이다. ForgeKernel을 개발한 주체에 대해서도 원문은 명확히 밝히지 않고 있다. 실제 서비스 워크로드에서 같은 이득이 나오는지는 별도 검증이 필요한 부분이다.