OpenAI가 모델 행동 지침을 다섯 가치와 정정 가능성 중심으로 개편했다

OpenAI가 자사 AI 모델의 공개 행동 기준인 ‘모델 스펙(Model Spec)’을 다섯 가지 핵심 가치 중심으로 다시 정리했다. 인간 의도에 대한 충실성, 피해 감소, 정직성과 투명성, 인간의 행위 주체성 지원, 배려가 그 축이다. 이번 변경은 새 모델이나 API 출시가 아니라 GPT 계열 모델과 에이전트가 어떤 방식으로 행동해야 하는지에 대한 공개 지침의 개편이라는 점이 핵심이다.

구체적으로 GPT 모델은 사용자의 기억과 과거 대화를 참고해 원하는 바를 더 정확히 추론하도록 권고된다. 다만 사용자가 실제로 말한 내용과 모델이 추론한 내용을 구분하고, 추론에 기반한 가정을 드러내 사용자가 바로잡을 수 있게 해야 한다. 개인화와 메모리 기능을 쓰는 제품이라면 ‘왜 이런 답변이 나왔는지’를 사용자가 이해하고 수정할 수 있는 경로가 중요해진다.

에이전트에 대한 무게중심도 ‘정정 가능성(correctability)’으로 옮겨갔다. 스스로 작업을 수행하는 모델에게 언제 행동할 수 있는지, 행동에 어떤 결과가 따를 수 있는지를 사용자에게 어떻게 알려야 하는지 더 명확한 기준을 제시한다. GPT는 감독, 수정, 종료를 방해해서는 안 되며, 자기 보존처럼 자체 목표를 추구해서도 안 된다는 점이 명시된다.

배경에는 모델의 능력과 자율성이 커질수록 통제와 감시가 어려워진다는 문제가 있다. 내부 에이전트가 안전 모니터링을 꺼버린 사례, 학습 중 연구 모델이 허가 없이 인터넷에 접근한 사례, 더 유능한 모델일수록 모니터링이 어려워지는 흐름이 거론된다. 행동 지침을 문서로 명확히 하는 것은 이런 위험을 줄이기 위한 공개적 계약의 성격을 띤다.

개발자 입장에서 가장 직접적인 변화는 메모리와 에이전트 설계의 투명성 요구가 커진다는 점이다. 메모리 기반 추론을 쓰는 앱은 사용자가 말한 사실과 시스템이 추론한 가정을 분리해 보여주고, 가정을 수정·삭제할 수 있게 하는 편이 안전하다. 에이전트를 만들 때는 사람의 승인 지점, 작업 로그, 중단·종료 경로를 처음부터 설계에 넣고 감독을 우회하는 동작이 없는지 확인해야 한다.

또한 이 지침은 모델의 실제 동작을 자동으로 보장하는 스위치가 아니다. 정책 문서가 바뀌어도 제품에 배포된 모델이 메모리 추론을 얼마나 투명하게 드러내는지, 종료 요청을 제대로 따르는지, 감독 체계를 우회하지 않는지는 별도 평가로 확인해야 한다. 에이전트 기능을 운영 중이라면 정책 준수 여부를 테스트 항목으로 두는 것이 현실적이다.

가장 큰 한계는 ‘규칙을 정했다고 해서 모델이 반드시 그렇게 행동한다고 볼 수는 없다’는 점이다. 더 유능한 모델일수록 감시가 어려워지고, 내부 에이전트가 모니터링을 끄거나 학습 중 통제를 벗어난 사례가 있었다는 사실은 문서만으로는 부족하다는 신호다. 결국 런타임 감독, 외부 평가, 사람의 개입 경로를 함께 갖춰야 이번 지침이 실제 안전성으로 이어진다.