IQuest-Q1은 CLI 에이전트용 320B MoE를 3단계로 훈련한다

무엇인가

이 논문은 LLM 에이전트가 명령줄 인터페이스(CLI)를 통해 파일과 코드, 외부 시스템을 다루는 상황을 겨냥한다. 저자들은 CLI가 언어 모델이 외부 환경과 상호작용하는 가장 일반적인 방식 중 하나라고 보고, 소프트웨어 엔지니어링, 일반 작업 실행, 장기 호라이즌 추론, 사이버 보안까지 아우르는 오픈소스 에이전트 파운데이션 모델 IQuest-Q1을 제안한다. 모델은 총 320B 파라미터의 희소 MoE로, 토큰당 15B만 활성화한다.

어떻게 동작하나

구조는 Transformer에 희소 MoE와 하이브리드 슬라이딩 윈도우 어텐션을 결합한다. GQA와 SWA를 번갈아 배치하고, 쿼리 인식 싱크 토큰, QKNorm, QKNorm Clip, 부분 RoPE를 적용한다. 첫 Transformer 레이어는 전문가 부하 불균형을 줄이기 위해 희소 MoE 대신 dense MLP를 쓴다. Stable SplitNorm은 어텐션 입력은 정규화하고 FFN 입력은 정규화하지 않는 방식으로 Pre-Norm의 안정성과 Post-Norm의 깊이 활용을 절충하며, 어텐션 출력에 RMSNorm을 추가하고 첫 레이어에 SandwichNorm을 적용해 대형 모델에서의 불안정을 보완한다. Muon 옵티마이저와 μP 파라미터화를 결합해 폭과 깊이 방향의 학습률 전이를 노린다. 원문은 896 히든 차원, 18레이어 프록시에서 학습률을 찾아 목표 모델에 zero-shot 전이했다고 밝힌다. MTP 레이어 두 개를 사전학습 초기부터 두고, 이후 첫 레이어는 추론 디코딩용 재귀 드래프터로 전환하고 두 번째 레이어는 별도 단계에서 버린다. 세부 하이퍼파라미터로 88개 레이어, 히든 3,072, 48개 쿼리 헤드와 8개 KV 헤드, 256개 라우티드 전문가 중 8개 활성화, 160,000 어휘, 29T 토큰 학습이 제시된다.

무엇과 다른가

훈련은 세 단계다. 사전학습은 두 단계 커리큘럼으로, 1단계에서 기초 언어 능력을 세우고 2단계에서 코드·STEM 비중을 40%에서 70%까지 네 단계로 끌어올린다. 중간훈련은 고품질 자연어 코퍼스, QA 쌍, 에이전트 궤적을 섞고 토큰 단위 손실 마스킹을 적용하며 컨텍스트를 32K, 128K, 512K로 점진 확장한다. 저장소 기반의 컨테이너화된 실행 인스턴스를 100만 개 이상 만들어 에이전트 롤아웃을 수행하고 유효한 궤적을 남긴다. 사후훈련은 일반·추론·코딩 과제 합성, 환경 무결성과 보상 해킹 완화, SFT, 도메인 특화 RL, 다중 교사 온폴리시 증류(MOPD), 다중 스캐폴드·다중 버전 훈련을 결합한다. SFT는 1단계 240B+ 토큰, 2단계 50B+ 토큰으로 진행되고, MOPD는 여러 동결 전문가 모델의 보완적 능력을 하나의 모델로 통합한다. 모델 병합은 서로 다른 전문가와 체크포인트를 합치면서 파라미터 업데이트 간 충돌을 완화한다.

어떻게 쓰나

실험은 코딩 에이전트와 일반 능력 두 축으로 구성된다. 비교 대상은 Claude Opus 5, GPT-5.6 Sol 같은 독점 모델과 GLM-5.3-Flash, DeepSeek-V4-Flash-0731, Hy3, MiniMax M3 같은 오픈소스 모델이다. 원문이 보고한 대표 수치는 SWE-Bench Pro 57.5, DeepSWE v1.1 64.6, NL2Repo-Bench 63.0, PaperBench 86.0, CyberGym 84.5다. 일반 에이전트 과제에서는 Toolathlon-Verified 75.0, AutomationBench 52.7, Claw-Eval 77.1, BrowseComp 85.5, WideSearch 81.8, JobBench 55.7, APEX-Agents 1.1 50.9를 기록했다. 추론에서는 GPQA Diamond 93.3, IMOAnswerBench-Verified 93.0, Humanity’s Last Exam은 도구 없이 39.2, 도구 사용 시 55.7이다. 평가 하네스는 DeepSWE v1.1에 mini-SWE-agent, PaperBench에 BasicAgent, 나머지 코딩 과제에 Claude Code를 쓰고, CyberGym과 ProgramBench는 6시간, Terminal-Bench 2.1은 8시간, Terminal-Bench 3.0과 4.0은 10시간, PaperBench는 12시간 제한을 둔다. 별도로 Qwen3-MoE 스타일 기준 모델과 통제 비교에서 1.93배 높은 스케일링 효율, 동일 손실 도달에 약 52%의 학습 연산이 필요하다고 보고한다. 안정성 여유는 η_safe와 η_opt의 로그 비율로 정의하고, 두 값이 같아지는 임계 모델 크기를 활성 파라미터 기준 약 572B, 총 파라미터 기준 약 12T로 외삽한다.

전제와 한계

개발자 관점에서 이 모델은 CLI 코딩 에이전트, 저장소 수준 버그 수정과 기능 추가, 장기 터미널 워크플로, 도구 호출이 많은 일반 작업, 취약점 재현·검증 같은 보안 작업에 바로 검토해볼 수 있는 공개 가중치 모델이다. 다만 도구 호출이 IQuest 전용 채팅 템플릿 형식을 쓰므로, 구조화된 도구 실행과 추론 추출에는 호환되는 서빙 파서와 에이전트 하네스가 필요하다. 벤치마크 점수도 하네스와 시간 제한에 따라 달라지므로, 실제 도입 전에는 자신의 스캐폴드와 도구 스키마에서 재평가해야 한다. 논문은 모델이 자체 개발 루프에 참여한 사례도 제시한다. 6,054개 도구 호출을 추적해 특정 도구 호출 스키마에 치우친 학습 데이터와 정의·파라미터 불일치를 찾아내고, 데이터 정제와 혼합 스키마 증강을 제안해 2.35B 토큰, 938.7 GPU시간 규모의 실험으로 검증했다. 이 과정은 인간 전문가가 주요 결정과 비용이 큰 실험을 검토하는 human-on-the-loop 방식으로 운영된다.

저자들이 밝힌 한계는 분명하다. IQuest-Q1은 텍스트 입력만 지원하며 이미지·오디오·비디오 입력 능력이 없다. 생성된 설명과 코드가 틀릴 수 있어 코드 변경은 검토하거나 과제에 맞는 테스트로 검증해야 한다. 도구 통합은 IQuest 전용 형식에 묶여 있어 호환 파서와 하네스가 필요하다. 실제 CLI 작업은 반복 디버깅과 검증을 요구하며, 모델이 제약을 놓치거나 실패한 시도를 반복하거나 문제를 미해결로 남길 수 있어 인간 감독이 필요하다. 저자들은 모델의 능력과 신뢰성에 여전히 한계가 있다고 밝히고, 가중치와 배포 설정, 에이전트 통합 지침을 공개해 후속 연구와 개발을 지원하겠다고 말한다.