도메인별 AI 평가를 위한 예측 기반 평활화와 편향 보정 검증 워크플로

무엇인가

AI 시스템 평가는 단일 총점으로는 부족하다. 벤치마크의 과제 유형이나 배포된 에이전트의 대화 유형처럼 도메인마다 성능이 다르기 때문에, 평가자는 도메인별로 성능을 따로 보고한다. 이것이 이 논문이 다루는 분해 평가(disaggregated evaluation)다. 문제는 비용이다. 평가 단위 하나의 결과를 얻으려면 시스템에 질의하는 단계와 그 응답을 채점하는 단계가 필요한데, 정답이 있는 검증 가능 과제는 채점이 자동이어서 질의 비용이 지배적이고(논문은 HELM에서 LLM 하나를 평가하는 데 API 크레딧 9,337달러가 든 사례를 인용한다), 정답이 없는 개방형 과제는 사람 채점 비용이 추가된다. 그래서 평가는 전체 단위가 아니라 라벨링된 표본에 의존하게 된다. 저자들은 전체 평가 집합을 유한모집단으로 보고, 각 도메인의 모집단 평균 θ_i를 정확한 점추정과 구간추정으로 추정하는 것을 목표로 삼는다. 이 설계 기반 관점에서는 참값이 고정된 모집단 양수이고, 구간은 반복 표본추출에서 명목 수준의 포함확률을 가져야 한다.

어떻게 동작하나

출발점은 직접 추정량들이다. 도메인 i의 표본에 역포함확률 가중치 w_ij = π_ij^-1를 적용한 Horvitz–Thompson(HT) 추정량이 기준선이다. 보조정보 f_ij(예: LLM 판정자의 점수, 다른 모델들의 과거 정답률)가 모든 모집단 단위에 기록되어 있으면, prediction-powered inference(PPI)는 모집단 보조정보 평균에 표본 가중 오차의 보정항을 더한다. 이는 고전적 표본추출의 차이 추정량과 동일하며, 보조정보에 체계적 오차가 있어도 설계 일치성을 유지한다. GREG 추정량은 여기에 조정 기울기 λ̂를 곱한 형태로, λ̂는 도메인 전체에 걸쳐 풀링한 가중최소제곱 회귀의 계수다. λ=1이면 PPI, λ=0이면 HT가 된다. 논문은 PPI++ 같은 추정량을 GREG로 통칭하는데, GREG는 보조정보가 결과와 같은 척도일 필요가 없고 임의의 단위 수준 공변량을 받는다는 점이 다르다. 다만 보조정보가 약하면 PPI는 HT보다 나빠질 수 있고, GREG는 기울기를 0 쪽으로 조정해 그 위험을 줄인다.

무엇과 다른가

제안 방법의 핵심은 소지역 추정(small area estimation)의 영역 수준 모델을 끌어온 것이다. 직접 추정량은 자기 도메인의 라벨만 쓰기 때문에 라벨이 적은 도메인에서 분산이 n_i^-1로 커진다. Fay–Herriot 모델은 직접 추정량 z_i와 그 분산 d_i를 입력으로 받아, 도메인 수준 공변량에 대한 공유 회귀와 도메인 랜덤효과로 θ_i를 모형화한다. 사후평균은 γ_i = σ²/(σ²+d_i)로 가중한 절충이며, d_i가 크면 회귀 성분 쪽으로, 작으면 직접 추정량 쪽으로 쏠린다. 논문의 PP-S(prediction-powered smoothing)는 이 입력 z_i로 HT 대신 GREG를 쓰는 베이지안 Fay–Herriot 모델이다. 확장판 PP-TS는 도메인들이 중첩된 보고 분류체계(taxonomy) 안에 있다는 구조를 이용해, 단일 랜덤효과를 분류 수준별 랜덤효과의 합 Σ_r v^(r)_{a_r(i)}로 바꾼다. 각 수준의 분산 σ_r²는 데이터에서 추정되므로, 공변량 이상으로 범주 간 차이가 없는 수준은 분산이 0에 가까워진다. 보조정보는 두 곳에 들어간다. 단위 수준에서는 GREG를 통해 분산 d_i를 줄이고, 도메인 수준에서는 공변량 x_i로 회귀 성분을 개선한다. 적합은 베이지안으로 하며 FH와 PP-S에는 무정보 사전분포를, TFH와 PP-TS에는 확산 정규 사전분포와 약정보 역감마 사전분포를 쓴다. 도메인 표본이 커지면 d_i가 0으로 가므로 연결모형과 무관하게 설계 일치성을 갖는다.

어떻게 쓰나

추정량 선택을 위한 검증 절차도 새로 만든다. 표본을 K개 폴드로 나눠 각 폴드를 확률표본으로 만들고, 폴드 k를 뺀 나머지로 적합한 후보 추정량을 홀드아웃 HT 추정량과 비교하는 순진한 교차검증 점수는 목표 MSE에 편향을 갖는다. 편향은 폴드 수준(표본 분할에서 발생)과 표본 수준(주어진 표본에서 모든 폴드가 HT 추정량의 실현된 오차를 물려받음) 두 가지다. Dong과 Li의 조정 점수는 폴드 수준 편향을 제거하지만 표본 수준 편향은 남아, 참 도메인 평균을 따라가는 후보보다 그 표본의 HT 추정량을 따라가는 후보를 선호하게 만든다. 논문은 여기서 한 걸음 더 나아가 d_i + 2Cov[θ̂_i^HT, θ̂_i^M] 항을 빼는 편향 보정 점수를 유도해, 근사적으로 불편한 설계 기반 점수를 만든다.

전제와 한계

실험은 두 가지다. 첫째는 검증 가능 채점 벤치마크로, Wu 등이 Open LLM Leaderboard에서 정리한 질문×모델 기록을 쓴다. 평가 대상은 microsoft/phi-4이고 추정 대상은 34개 과제 유형 각각의 정확도이며, 5개 벤치마크(BBH, GPQA, IFEval, MATH, MuSR)가 2수준 분류체계를 이룬다. 보조정보는 세 가지인데, 수학 특화 모델(Qwen2.5-Math-7B-Instruct)의 정오답, 소형 범용 모델(Qwen2.5-1.5B-Instruct)의 정오답, 그리고 과거 모델들의 정답률인 역사적 난이도다. 단위 수준 상관은 각각 0.31, 0.33, 0.61로 난이도가 강한 보조정보였다. 10% 예산에서 PP-TS는 모든 보조정보 조합에서 직접 추정량과 다른 평활화 추정량을 모두 RMSE와 구간점수(IS) 양쪽에서 앞섰고, 모든 추정량의 포함확률은 명목 0.95에 대해 0.93~0.95에 머물렀다. 약한 보조정보에서는 PPI의 RMSE가 HT보다 오히려 높아졌지만 GREG는 조정 기울기를 약 1/3로 낮춰 HT 수준을 유지했고, 역사적 난이도에서는 기울기가 1에 가까워 두 추정량이 일치했다. 구성요소 분해에서는 절편만 있는 Fay–Herriot를 HT 입력에 적용한 것이 HT를 거의 개선하지 못해, 이득의 대부분이 도메인 수준 공변량과 분류체계 평활화에서 온다는 점이 드러났다. 단위 수준 정확도가 비슷한 두 약한 보조정보가 도메인 수준에서는 크게 다른 기여를 했다는 관찰도 함께 보고된다.

둘째는 사람이 채점한 배포 에이전트 트래픽으로, PRISM 데이터셋을 LLM들을 라우팅하는 단일 서비스의 트래픽으로 취급한다. 추정 대상은 21개 LLM과 3개 대화 유형의 교차로 만들어지는 63개 도메인의 평균 만족도이고, 라우팅된 LLM과 대화 유형의 2수준 구조가 분류체계가 된다. 판정자는 gpt-5-nano(낮은 추론 노력)이며 단위 수준 상관 0.40, 도메인 평균 간 상관 0.93을 보였다. 10% 예산은 6,837개 라벨, 도메인당 약 108개다. 단일 표본 워크플로에서 분석자는 7개 후보(HT, 그리고 판정자만 또는 판정자+대화 내용 공변량을 쓴 GREG·PP-S·PP-TS 변형)를 비교하는데, K=5 폴드의 DB-CV는 판정자와 내용 공변량을 함께 쓴 PP-S를 선택했고 7개 후보의 순위가 오라클 RMSE 순위와 정확히 일치했다. 평활화는 HT가 가장 부정확한 도메인에서 구간 폭을 가장 많이 줄여, 가장 희소한 4분위에서 HT 폭의 약 절반까지 좁혔다. 고정 예산 검증에서는 100회 반복으로 DB-CV를 순진한 CV, 50/50 분할, 80/20 분할과 비교했는데, 선택 성능은 DB-CV와 두 CV 점수, 50/50 분할이 대체로 비슷했고 80/20 분할이 더 나빴다. 순위 상관에서는 두 CV 점수가 두 분할보다 우수했다. 결정적으로 보고되는 오차 크기에서 차이가 났는데, 분할 방식과 순진한 CV는 선택한 후보의 오차를 실제의 몇 배로 과대평가한 반면 DB-CV만 오라클에 근접했다. Dong과 Li의 조정 점수는 보수적 경계 때문에 모든 쌍별 비교에서 판단을 보류했다고 밝힌다.

저자들이 명시한 전제와 한계는 분명하다. 이 논문 전체는 확률표본을 전제로 한다. 논문은 PRISM에서 참가자가 거부한 응답을 약 2배 확률로 뽑는 비확률 표본을 흉내 내어 이를 실증하는데, 표본 평균의 편향은 예산이 커져도 사라지지 않고 95% 구간의 포함확률은 명목보다 크게 낮아진다. Meng이 말한 빅데이터 역설이며, 선택 과정을 모형화하지 않으면 PPI도 이 문제를 고치지 못한다. 모형 쪽 전제도 있다. Fay–Herriot의 표본 모형은 직접 추정량에 대한 중심극한 근사여서 가장 작은 도메인에서 가장 약하고, 연결모형을 잘못 지정하면 역시 작은 도메인에서 정밀도를 잃는다. 또한 라벨이 전혀 없는 미관측 도메인에 대한 제로샷 평가는 도메인 수준 공변량이 있으면 평활화 모형으로 시도할 수 있지만 언제 신뢰할 수 있는지는 열린 문제로 남겨둔다. 채점자 간 불일치를 측정오차로 다루는 문제, 검토 플래그가 달린 대규모 비확률 표본을 확률표본과 결합하는 문제도 향후 통합 과제로 제시된다.