오픈AI가 11월 29일부터 Daybreak Blue 보안 세션 데이터를 학습에 사용한다

오픈AI가 사이버보안 관련 세션 데이터를 자사 모델 학습 재료로 쓰기 시작한다. 적용 시점은 11월 29일이며, 대상은 Trusted Access 프로그램에 참여 중인 이용자의 Daybreak Blue 세션 데이터다. 회원들에게 발송된 안내 메일을 통해 이 같은 방침 변경이 확인됐다.

그동안 이 데이터는 학습에서 빠져 있었다. 이용자가 모델 개선에 자신의 데이터를 쓰지 않도록 설정을 꺼두면 Daybreak Blue 세션 역시 학습 대상에서 제외되는 구조였다. 새 방침은 이 예외를 없앤다. 학습에 쓰이길 원하지 않는 이용자를 위해 별도의 옵트아웃 절차를 마련하겠다는 후속 메일이 뒤따랐지만, 구체적인 방식과 시점은 아직 공개되지 않았다.

한 가지 예외는 남아 있다. 안전 검토 과정에서 문제가 있다고 표시된 상호작용은 학습 목적이 아니라 안전 목적으로 계속 활용될 수 있다. 정책상 학습에서는 빠지더라도, 유해성 점검이나 오남용 대응을 위한 데이터로는 존속한다는 뜻이다.

변경 소식이 알려지자 반발이 빠르게 나왔다. 보안 연구 세션에는 취약점 분석 내용, 공격 시나리오, 내부 시스템 정보처럼 외부에 남기 부담스러운 입력이 섞이기 쉽다. 그동안 이런 작업을 AI 도구 위에서 relatively 자유롭게 해왔던 연구자들에게는 학습 포함 여부가 곧 데이터 반입 정책의 변화로 받아들여진다.

연구자들이 특히 민감하게 반응하는 이유는 학습 데이터 사용을 둘러싼 과거의 논란이다. 수학자 트리스탄 벅마스터와 레벤트 알퓌게는 나비에-스토크스 방정식 관련 초안을 오픈AI의 Codex에 올렸고, 이후 오픈AI가 자체 증명을 선보이면서 두 사람의 입력이 학습에 쓰인 게 아니냐는 의혹이 제기됐다. 오픈AI는 해당 입력을 학습에 활용하지 않았다고 부인했지만, 의혹 자체만으로도 연구자들은 무엇이 잘못될 수 있는지를 체감하게 됐다.

개발자 입장에서 실무 변화는 두 갈래다. 첫째, 보안 관련 코드나 분석 로그를 AI 코딩 도구 세션에 넣는 관행을 그대로 유지하기 어려워진다. 둘째, 옵트아웃이 실제로 어떤 단위로, 언제부터 적용되는지에 따라 팀의 도구 선택과 데이터 취급 규정이 달라진다. 특히 규제 산업이나 외부 위탁 계약을 다루는 조직은 세션 단위 입력까지 데이터 거버넌스 범위에 넣어야 할 수 있다.

다만 확인된 정보는 아직 제한적이다. 별도 옵트아웃의 세부 조건, 기존에 쌓인 세션 데이터에 소급 적용되는지 여부, 안전 목적 활용의 구체적 범위는 공개되지 않았다. 정책 문구가 확정되기 전까지는 Daybreak Blue 세션에 무엇을 남기는지 스스로 통제하는 쪽이 안전하다.