검색기의 원래 정답 문서를 명령 위반 하드 네거티브로 뒤집어 재활용한다

무엇인가

명령 수행 정보 검색(IFIR)은 검색기가 질의만 보고 순위를 정하는 것이 아니라, 그 질의에 붙은 인스턴스별 지시문(어떤 측면을 볼지, 무엇을 제외할지)까지 함께 만족하도록 문서를 정렬해야 하는 과제다. 문제는 이런 지시문 조건부 대조 학습 신호가 거의 없다는 점이다. 기존 합성 방식(Promptriever, InF-IR)은 정답 문서 하나를 고정해 두고 그 주변에 부정 문서를 생성한다. 저자들은 여기서 빠진 것을 지적한다. 원래 정답이던 문서 자체가, 그 문서가 어기는 추가 조건을 담은 지시문 아래에서는 매우 어려운 하드 네거티브가 될 수 있다는 것이다. 질의와는 여전히 강하게 관련되지만 지시문은 위반하기 때문에, 모델은 표면적 유사성이 아니라 지시문을 근거로 두 문서의 순위를 갈라야 한다.

어떻게 동작하나

논문이 제안하는 NHNM(Natural Hard-Negative Mining)의 핵심 개념은 전환 가능한 네거티브(convertible negative, CN)다. 먼저 질의별로 BM25로 상위 M개 문서를 검색해 정답을 제외한 후보 풀을 만든다. 이 후보들 중에는 질의를 완전히 만족하지는 않지만, 질의와 양립 가능한 어떤 추가 조건을 붙이면 원래 정답보다 더 선호될 수 있는 문서가 섞여 있다. NHNM은 새 문서를 쓰지 않고, 그런 기존 후보를 승격시키는 짧은 지시문을 생성해 정답-네거티브 관계를 역전시킨다. 파이프라인은 후보 정제, 역전 구성, 기하 필터링의 세 단계로 완전 자동화되어 있다.

무엇과 다른가

1단계 후보 정제에서는 규칙 기반 필터로 잘린 문서·거의 중복인 문서를 먼저 걷어내고, LLM이 (질의, 정답, 네거티브 후보들)을 함께 보고 각 후보를 세 갈래로 분류한다. 이미 질의를 만족하는 오답(False Negative), 질의는 만족하지 않지만 호환되는 세분화 조건 아래에서는 정답보다 나아질 수 있는 전환 가능한 네거티브, 둘 다 아닌 기타 네거티브다. 이때 LLM은 CN마다 초기 지시문 후보도 함께 만드는데, 질의의 개체·의도·답 유형을 보존하고, 해당 문서가 뒷받침하는 조건을 도입하며, 원래 정답은 관련성은 유지하되 조건은 위반하도록 해야 한다. 2단계 역전 구성에서는 살아남은 CN-지시문 쌍들을 비교해 가장 명확한 대비를 만드는 하나를 고르고, 지시문을 최소한의 판별 조건만 담도록 다듬는다. 질의 의도를 바꾸거나 문서별 정답을 흘리거나, 원래 정답이 조건을 만족해 버리는 지시문은 버린다. 통과하면 선택된 CN이 새 지시문 조건부 정답이 되고, 원래 질의-정답 문서는 첫 번째 하드 네거티브가 된다. 선택되지 않은 CN 중 새 지시문까지 만족하는 것들은 거짓 음성이 되므로 네거티브 집합에서 제외한다. 요점은 긴 부정 문서를 합성하지 않고, 실제 코퍼스에 존재하는 두 문서를 가르는 짧은 지시문만 생성한다는 것이다.

어떻게 쓰나

3단계 기하 필터링은 미세조정 전 고정된 사전학습 인코더로, 생성된 지시문이 모델의 기존 임베딩 공간에서 의도한 방향으로 작동하는지 확인한다. 지시문을 붙였을 때 재라벨링된 정답의 유사도 이득 Δ+(Ij,q,d+) = sim(f0(Ij⊕q), f0(d+)) − sim(f0(q), f0(d+))를 계산하고, 이 값이 임계값 γ(주 실험에서 0)를 넘는 표본만 남긴다. 여기서 중요한 것은 사전학습 모델이 이미 정답을 네거티브보다 위에 두도록 요구하지 않는다는 점이다. 그렇게 하면 정확히 배울 것이 남아 있는 역전 사례가 걸러지기 때문이다.

전제와 한계

데이터 구축 수치는 명확하다. MS MARCO-W에서 36,306개 튜플로 시작해 규칙 정제 후 29,902개가 남고, LLM 검증으로 11,254개의 CN 후보를 포함한 7,527개 시드가 확인된다(의미 검증과 지시문 생성 모두 GPT-5.1 사용). 역전 구성은 7,470개 시드에서 성공하고, 기하 필터링을 거쳐 최종 6,716개 인스턴스의 NHNM-MARCO가 만들어진다. 무작위 100개를 사람이 검수한 결과 지시문이 질의 의도를 보존하고, CN이 정답보다 선호되며, 원래 정답이 타당한 하드 네거티브가 되고, 근거 없는 제약이나 정답 누출이 없다는 조건을 88개가 통과해 수동 수용률 88%였다.

실험은 Qwen3-Embedding-0.6B(전체 미세조정 1에폭), Qwen3-Embedding-4B(rank-8 LoRA, α=32), BGE-M3(LoRA)를 InfoNCE, 유효 배치 32, AdamW 학습률 6×10⁻⁶, 가중치 감쇠 0.1로 학습해 InstructIR과 FollowIR에서 평가했다. InstructIR에서 0.6B 모델은 Robustness@10이 49.29에서 67.06으로, nDCG@10이 83.93에서 93.12로 올라 Promptriever를 각각 3.96점, 1.02점 앞섰다. 4B 백본도 Robustness@10 +12.63, nDCG@10 +6.09가 개선됐고, 다른 인코더 계열인 BGE-M3도 42.29→45.84, 80.67→84.31로 좋아져 이득이 특정 백본에 묶여 있지 않음을 보였다. FollowIR에서는 미세조정 검색 모델 중 가장 높은 평균 관련성 23.7과 p-MRR을 기록했는데, 평균 점수는 차순위 미세조정 검색기보다 2.8점 높고 최고 API 결과와는 1.6점 차이며, 7B 크로스 인코더인 FollowIR-7B보다 1.1점 낮은 수준이다. 약 500K 인스턴스를 쓰는 Promptriever, 38K 이상 트리플릿에서 출발하는 InF-IR과 비교해 데이터가 6,716개뿐이라는 점이 이 결과의 핵심이다.

통제 실험은 이득이 모델 크기나 데이터양이 아니라 데이터 패러다임에서 온다는 주장을 뒷받침한다. 같은 0.6B 백본, 같은 인스턴스 수, 같은 1에폭 설정에서 Promptriever 방식 데이터는 미세조정 전보다 소폭 나아지는 데 그쳤고, InF-IR 방식 데이터는 지시문 견고성과 평균 순위 품질을 모두 떨어뜨렸으며, NHNM-MARCO가 두 지표 모두에서 가장 좋았다. 절제 실험에서는 후보 정제를 빼면 InstructIR 지표가 크게 떨어지고 FollowIR 관련성도 23.7에서 22.3으로 내려갔고, 기하 필터링을 빼면 학습 신호 자체는 남아 Robustness@10이 65.25까지 오르지만 전체 파이프라인의 67.06에는 못 미쳤다. 원래 정답을 네거티브 집합에서 제거하면 Robustness@10이 67.06에서 60.40으로, p-MRR이 +4.1에서 +1.8로 떨어져 하드 네거티브로서 원래 정답의 역할이 결정적임이 드러난다. 같은 조건에서 일반 MS MARCO 질의-정답-오답 트리플로 미세조정하면 오히려 미세조정 전보다 나빠졌고, 정답 문서 주변에서 만든 지시문 데이터는 nDCG@10과 MAP만 소폭 올리고 Robustness@10은 건드리지 못했다. 데이터 크기 민감도 실험에서는 25%만 써도 두 벤치마크가 개선되고 75%까지 꾸준히 상승했다.

개발자 관점에서 이 논문의 실용적 메시지는 두 가지다. 첫째, 지시문 조건부 검색 성능을 올리려고 LLM으로 부정 문서를 대량 합성할 필요가 없다는 것. 이미 검색된 후보와 원래 정답을 재라벨링하고 짧은 지시문만 생성하는 편이 더 적은 데이터로 더 강한 신호를 준다. 둘째, 지시문 학습 데이터를 만들 때 "지시문이 없으면 순위가 뒤집히지 않는" 쌍을 반드시 확보해야 한다는 것. 다만 이 파이프라인은 GPT-5.1 같은 상용 LLM 호출과 사람 검수가 전제된 품질 관리에 의존하며, 저자들이 명시한 한계는 계산 비용 때문에 더 큰 학습 코퍼스나 더 큰 백본을 평가하지 못했다는 점이다. 또한 기하 필터링의 임계값 γ=0은 특정 사전학습 인코더의 공간을 기준으로 잡힌 값이므로 다른 임베딩 모델에 그대로 옮길 때는 재검증이 필요하다.