OpenAI, 수학 자문 그룹 출범…내부 모델이 미해결 문제 100개 이상 풀었다고 주장

OpenAI가 수학 분야 연구에 외부 수학자의 목소리를 반영하기 위한 독립 자문 그룹을 띄웠다. 뉴저지 프린스턴의 고등연구원(Institute for Advanced Study)을 거점으로 하는 이 그룹의 이름은 '수학과 인공지능 자문 그룹(Advisory Group on Mathematics and Artificial Intelligence)'이다. 회사가 수학 지향 연구를 밀어붙이는 과정에서 수학계와 대중 사이의 연결 통로 역할을 하겠다는 구상이다.

구성은 자문에 가깝다. 저명한 수학자 9명이 초기 멤버로 이름을 올렸고, 이들은 보수를 받지 않는다. 대신 새로 나온 수학적 결과의 중요도를 평가하고, 그것을 언제 어떤 방식으로 공개할지 조율하는 역할을 맡는다. 회사가 요청하지 않은 사안에 대해서도 의견을 낼 수 있고, 자신들의 견해를 외부에 공개할 수 있으며, 멤버 구성을 스스로 통제할 수 있다. 회사로부터 어느 정도 독립성을 확보한 셈이다.

이번 발표의 배경에는 나비에-스토크스 방정식 밀레니엄 문제에 대한 해법이 갑작스럽게 공개된 사건이 있다. OpenAI는 같은 내부 모델이 수학의 대부분 영역에서 미해결 문제 100개 이상을 추가로 해결했다고 주장했다. 문제는 속도다. 이달 초 필즈상 수상자 25명은 공개 서한을 통해 AI 연구소들이 유명 난제를 서로 먼저 풀겠다고 경쟁하면서 수학자들의 지적 작업 자체를 위협하고 있다는 우려를 제기했다.

개발자 입장에서 이 소식이 중요한 이유는 수학적 추론 능력이 곧 실무 성능으로 연결되기 때문이다. 정리 증명, 알고리즘 최적화, 형식 검증, 복잡한 코드의 불변식 추론 같은 작업은 모두 같은 계열의 능력을 요구한다. 코딩 에이전트가 생성한 결과를 사람이 일일이 검산하기 어려운 상황에서, 외부 전문가가 결과의 의미와 공개 시점을 판단하는 창구가 생겼다는 점은 검증 파이프라인 관점에서 의미가 있다.

다만 권한의 경계는 분명하다. 이 그룹은 OpenAI의 수학 연구 속도를 늦추거나 방향을 바꾸도록 요구할 수 없다. 회사는 자문 그룹이 내부 수학 연구의 진행 속도를 어떻게 조절할지에 대해 조언하는 역할은 맡지 않는다는 입장을 분명히 했다. 고등연구원 측도 자사가 조언은 할 수 있어도 어떤 AI 기업에서도 의사결정 권한을 갖지 않으며, 각 기업의 결정에 대한 책임은 그 기업에 있다고 선을 그었다.

멤버 구성에서도 긴장이 읽힌다. 초기 멤버 9명 가운데 필즈상 수상자들의 공개 서한에 서명한 사람은 고등연구원의 카밀로 데 렐리스 한 명뿐이다. 자문이라는 형식이 수학계의 우려를 실제로 흡수할 수 있을지, 아니면 결과 발표를 관리하는 창구로 그칠지는 앞으로 이 그룹이 어떤 판단을 내놓는지에 달려 있다.