정보 의존 그래프와 실행 수리로 에이전트 학습용 전문 과제를 대량 생성한다

무엇인가

작업 에이전트(working agent)는 디지털 환경에서 워크플로를 실행하고 도구를 조율하며 산출물을 만드는 언어 에이전트다. 이런 에이전트를 전문가 시연으로 지도학습시키려면 다양한 직업군의 실행 가능한 과제가 필요하다. 논문이 지적하는 병목은 과제의 양이 아니라 질이다. 산출물에 필요한 정보가 여러 파일에 흩어져 있거나 빠져 있으면 교사 모델이 근거 없는 가정을 넣거나 핵심 작업을 미완으로 남기고, 그 궤적이 그대로 학습 정답이 되어 버린다. 논문의 예시가 명확하다. 공급사 선정 과제에서 수요 예측과 견적서는 별도 파일로 주어졌지만 특정 공급사의 가격에 운임이 포함되는지가 빠지면 총소유비용을 일관되게 계산할 수 없다. 그렇다고 계산된 비용을 미리 넣어주면 정작 평가하려던 작업 자체가 사라진다. 필요한 전제는 모두 제공하되 중간 계산과 판단은 해결자에게 남기는 경계를 지켜야 한다는 것이 이 논문의 출발점이다.

어떻게 동작하나

WorkFactory의 첫 단계는 직업 위계, 문서화된 스킬, 실제 전문 산출물이라는 세 소스에서 과제 의도를 합성하는 것이다. 직업을 상황 속 역할로 확장하고, 한 작업의 출력이 다른 작업의 입력이 되는 조합을 구성하며, 산출물에서 목표를 역추론하는 방식이다. 후보 의도는 LLM 심사를 거쳐 내적 일관성, 직업적 적절성, 실제 업무로서의 개연성을 통과해야 공유 라이브러리에 들어간다.

무엇과 다른가

핵심은 정보 지원 그래프 G_info=(V_info, V_carrier, E_info, E_loc)다. V_info는 정보 단위, V_carrier는 그 정보를 담는 매체, E_info는 정보 단위 간 지원 관계, E_loc는 정보를 위치에 묶는 바인딩이다. 설계자는 의도된 산출물에서 출발해 역방향으로 계획하며, 산출물 뒤의 계산과 판단을 확인하고 각각이 필요로 하는 정보를 추적한다. 각 노드는 내용, 엔티티와 범위, 그리고 해당 정보가 제공되는지·외부에서 획득되는지·해결자가 도출해야 하는지·구성 내부용인지를 기록한다. 매체 바인딩은 사용자 요청, 참조 산출물, 외부 자원, 미래의 결과물, 구성 내부 요구사항 중 어디에 정보가 놓이는지를 지정하고 해결자가 볼 수 있는지 여부를 정한다. 내부 요구사항은 숨겨지고, 완료에 필요한 전제는 반드시 해결자 가시 입력에 표현되거나 획득 가능해야 한다. 이 그래프는 이후 사용자 요청 u, 산출물 명세 A, 비순환 구성 의존성 D로 이루어진 구성 계획 P로 구체화된다.

어떻게 쓰나

구성 후에는 실행 기반 수리가 붙는다. 프로브 해결자가 그래프도 구성 계획도 이전 진단도 없이, 오직 해결자가 볼 수 있는 요청과 자원만으로 과제를 시도한다. 보고된 문제는 실제로 열람한 소스와 도구 관찰에 근거해야 하며, 해결자 실수나 정당한 선택지와 구분된다. 완료를 막는 차단성 문제만 수리를 트리거하고, 수정자는 파일 개수·유형·의존 구조를 유지한 채 요청과 참조 파일을 편집한다. 예를 들어 공급사 C의 개당 0.15달러 운임 항목을 추가해 NPV 비교에 필요한 지원을 복원하되 비교 자체는 해결자에게 남긴다. 수정본은 구성 검사와 원래 의도 대비 작업 보존 심사를 통과해야 하고, 실패하면 폐기된다. 통과한 과제만 독립 교사 모델(GLМ-5.3)에 배정되어 궤적이 수집된다. 반복 추론·반복 도구 호출·빈약한 산출물을 거르고, 상호작용 턴 기준 상위 5%의 긴 롤아웃에는 산출물 쌍대 비교 기반의 선택적 거부 샘플링을 추가 적용한다.

전제와 한계

최종 코퍼스는 612개 세부 직업, 23개 대분류 직업군에 걸친 112,686개 과제다. Stirrup과 Claude Code 하네스로 궤적을 모았고, 평가 과제와의 요청 중복 검사, 수동 검토, 파일 해시 비교를 통해 평가 데이터 재사용이나 바이트 단위 동일 파일이 없음을 확인했다. 이 데이터로 Qwen3.5-4B, Qwen3.6-27B, Qwen3.6-35B-A3B를 파인튜닝한 것이 WorkPilot 계열이다.

실험은 GDPval(GDPval-AA 프로토콜), JobBench, Workspace-Bench-Lite, OmegaUse-OfficeVal 네 벤치마크에서 모델-과제 쌍당 3회 롤아웃으로 수행됐다. WorkPilot-35B-A3B는 GDPval-AA에서 879에서 1565 Elo로, JobBench에서 28.91에서 62.35로, Workspace-Bench에서 47.12에서 56.53으로, OmegaUse-OfficeVal에서 7.14에서 21.18로 올랐다. WorkPilot-27B는 GDPval-AA에서 로컬 추정 1612 Elo로, DeepSeek-V4.1-Flash보다 12 Elo 높고 GLM-5.3보다 34 Elo 낮아 프런티어 모델 범위에 들어간다. 4B 모델도 GDPval과 OmegaUse-OfficeVal에서 Apodex-1.1-mini를 앞선다.

스케일링 분석도 눈에 띈다. 35B-A3B 기준으로 처음 5K 과제가 447점을 만든 반면 75K에서 110K로 늘릴 때는 13점만 더해진다. 30K 시점에서 35B-A3B와 27B는 각각 110K 체크포인트까지 얻을 상승분의 88%와 94%를 이미 확보했고, 4B는 30K에서 546 Elo를 얻어 초기 데이터 효율이 높았다. 실행 길이는 기준선 24.87턴에서 2K 과제에서 162.88턴으로 늘었다가 110K에서 85.90턴으로 줄어드는데 Elo는 계속 오른다. 250턴 한도에 도달하는 궤적 비율은 2K의 21.9%에서 110K에서 2.7%로 떨어지고, 코드 실행 실패율은 16.0%에서 6.3%로 감소한다. 웹 검색 실패율은 2K에서 22.4%까지 올랐다가 110K에서 10.4%가 되지만, 웹 페치는 40~48% 구간에 머문다.

구성 요소 분석은 5K 과제 조건 세 가지를 비교한다. 정보 수준 계획을 도입하면 프로브가 진단한 깨진 도출이 24.86%에서 6.86%로, 요청 명세 부족이 7.22%에서 0.62%로 줄지만, 정보 누출·지름길과 자기 불일치는 각각 1.44%p, 1.18%p 늘어난다. 여기에 실행 기반 수리를 더하면 파일 간 불일치가 25.74%에서 4.84%로, 실행 가능성 결함이 6.64%에서 0.48%로, 누출이 3.36%에서 0.84%로 떨어진다. 같은 베이스 모델에 각 조건의 궤적을 따로 학습시킨 결과 GDPval-AA Elo는 1245에서 1293, 수리까지 더하면 1326으로, 직접 산출물 수준 계획 대비 누적 81점이 올랐다. 교사 선택 실험에서는 GLM-5.3 궤적으로 학습한 학생이 1483 Elo, DeepSeek-V4-Flash-0731 궤적으로 학습한 학생이 1248 Elo로, 같은 과제 집합이라도 궤적 생성 방식이 학습 효과를 바꾼다는 것을 보여준다. 과제당 추정 추론 비용은 WorkPilot-4B 약 0.012달러, 35B-A3B 약 0.031달러, 27B 약 0.396달러다.

개발자 관점에서 이 논문의 실용적 메시지는 합성 데이터 파이프라인을 만들 때 산출물 명세보다 정보 의존성 명세를 먼저 하라는 것이다. 필요한 정보가 어느 파일에 어떤 형태로 있어야 하는지를 그래프로 못 박고, 해결자 가시 입력만으로 실제 실행을 한 번 돌려 막힘을 진단한 뒤, 작업 내용은 건드리지 않고 지원만 보수하는 루프가 학습 데이터 품질을 좌우한다. 다만 저자들이 명시한 전제를 확인해야 한다. 교사 모델 GLМ-5.3이 텍스트 입력만 받기 때문에 Qwen 백본의 비전·정렬 구성요소는 쓰이지 않았고 평가도 텍스트 전용이며, 학습은 교사 궤적에 대한 지도학습에 한정되어 강화학습은 후속 과제로 남아 있다. 또한 이런 에이전트의 산출물은 틀리거나 편향될 수 있어 실제 업무에서는 자격을 갖춘 전문가의 검토를 대체하지 않아야 한다고 저자들은 윤리 고려사항에서 밝힌다.