언어모델 없는 미노타우르가 CPU 코어 하나로 0.25초 만에 추론한다

Hacker News10일 전

Minotaur AI는 언어모델도 GPU도 없이 추론을 수행하는 AI 아키텍처다. ELC라는 기반 위에 올라가 있으며, 다음에 올 답을 예측하는 대신 대상 시스템을 측정해서 결론을 낸다. 앞선 글에서 규정 문서와 그 적용 기록을 대조해 어느 조직이 어떤 규칙을 얼마나 어겼는지, 혹은 측정 자체가 잘못 기록된 것인지를 가려낸 사례를 보여줬는데, 이번 글은 그 범위를 추론 전반으로 넓힌다.

원문에 따르면 미노타우르는 연역, 귀납, 귀추, 진단, '보는 것'과 '하는 것'의 구분, 질문을 결정지을 실험 고르기, 믿음 수정, 그리고 질문을 던지는 행위가 답을 바꿔버리는 상황에 대한 추론까지 처리한다. 이 모두를 하나의 네트워크 위 단일 연산으로, 평범한 프로세서 코어 하나에서, 설명된 시스템에 대한 질문 하나당 약 0.25초에 해낸다.

평가 방식도 눈에 띈다. 코드를 한 번도 본 적 없는 사람들이 작성한 블라인드 테스트에서 미노타우르는 현행 언어모델과 대등한 결과를 냈다고 한다. 질문이 목격자의 기억을 바꿔버리는 경찰 면접 상황, 그리고 데이터만 주어진 상태에서 시스템을 학습하고 진단하고 예측하는 과제가 그 테스트에 포함됐다.

언어모델이 사람처럼 사고하는 것처럼 보이는 이유는 학습 목표에 있다. 방대한 텍스트의 다음 단어를 맞히도록 훈련되면서, 증명의 다음 줄이나 진단 기록의 다음 줄을 잇는 능력을 함께 익힌다. 세상에 대한 기록 상당량이 사람이 머릿속 사고를 종이에 옮긴 결과물이기 때문에, 그 연속을 잘 맞히는 모델은 사고를 흉내내는 데에도 능해진다. 대신 사람의 약점도 같이 물려받는다. 결론이 그럴듯하면 논리적 허점을 덜 따지고, 질문의 표현이나 순서에 답이 흔들리며, 설명은 답을 낸 뒤에 사후적으로 붙는다. 모델이 보는 것은 세상이 아니라 세상에 대해 쓴 우리의 문장뿐이다.

언어모델 이전에도 기계가 추론하도록 만드는 시도는 60년 넘게 이어졌다. 1956년 뉴얼·쇼·사이먼의 Logic Theorist가 《수학 원리》의 정리를 증명했고, 이어진 General Problem Solver는 문제를 시작 상태·목표·이동 집합으로 표현해 탐색으로 풀려 했다. 퍼즐에서는 통했지만 실제 문제에서는 가능한 수가 폭발적으로 늘어났고, 1973년 영국 정부에 제출된 라이틸 보고서가 이를 조합 폭발이라 부르면서 지원이 급감했다.

1970년대의 답은 탐색 대신 지식을 심는 전문가 시스템이었다. 스탠퍼드의 MYCIN은 중증 감염 항생제 처방을 권고했고 1979년 평가에서 전문의와 견줄 만한 조언을 냈으며, DEC의 XCON은 컴퓨터 주문 구성을 자동화해 큰 비용 절감을 냈다. 그러나 규칙을 전문가 머릿속에서 하나씩 뽑아내야 하는 지식 획득 병목과, 규칙 범위를 벗어나면 아무 말도 못 하는 취약성 때문에 1980년대 말 시장이 무너졌다. 논리 프로그래밍(Prolog, 1972년 마르세유)과 일본의 5세대 컴퓨터 프로젝트(1982~1992)는 논리로 정확하게 추론하겠다는 베팅이었고 칩 검증 같은 분야에서는 성과를 남겼지만, 세상은 논리 형식으로 주어지지 않는다는 벽에 부딪혔다. 1984년 레낫의 Cyc는 상식을 손으로 적어 넣으려 했고, 그 작업이 끝나지 않는다는 사실을 보여줬다.

1980년대 후반부터는 불확실성 아래의 추론이 수학적 토대를 얻었다. 주디아 펄의 베이지안 네트워크는 무엇이 무엇에 얼마나 영향을 주는지 그래프로 적고 관측이 무엇을 함의하는지 계산하게 했으며, '보는 것'과 '개입하는 것'의 차이를 정식화했다. 라이터·드클레어·윌리엄스는 시스템 어느 부품이 고장 났는지 찾아내는 진단을 정밀한 방법으로 만들었다. 다만 이들은 인과 그래프나 부품 명세를 사람이 먼저 건네줘야 했다. 2012년 이후 딥러닝은 예시만 주면 패턴을 잡아냈지만 그 패턴에는 추론할 구조가 없었고, 2017년 트랜스포머, 2022년 대중화된 언어모델, 2024년부터의 단계별 추론 훈련으로 흐름이 이어졌다.

미노타우르가 노리는 지점은 여기다. 사람이 사고를 글로 적는 방식을 모방하는 대신, 추론 대상이 되는 시스템의 구조 자체를 다룬다. 베이지안 네트워크나 진단 이론 같은 아이디어를 재현하되, 인과 그래프나 부품 설명을 사람이 미리 넘겨주지 않아도 숫자 열에서 출발할 수 있게 한 것이 차별점이다.

개발자 입장에서 눈여겨볼 것은 자원 요구량과 검증 가능성이다. GPU 없이 CPU 코어 하나, 질문당 0.25초 수준이라면 규제 준수나 감사 대응처럼 답의 근거를 다시 재현해야 하는 업무에 LLM을 끼워 넣을 때의 비용과 지연 문제를 다른 방식으로 접근할 수 있다. 답을 예측으로 생성하는 것이 아니라 측정으로 계산하기 때문에, 같은 입력에 같은 결론이 나오는지 확인하기도 상대적으로 수월하다.

다만 원문이 밝힌 범위는 분명히 좁다. 0.25초는 '설명된 시스템'에 대한 질문 기준이고, 언어모델과의 비교도 사람이 작성한 특정 블라인드 테스트 과제들에 한정된다. 인과 그래프를 사람이 넣어줘야 했던 기존 방법의 한계를 어디까지 넘어섰는지, 어떤 종류의 시스템에 적용할 수 있는지는 이 글만으로 판단하기 이르다. 원문 자체도 언어모델이 왜 이겼는지를 설명하는 대목에서 끊겨 있어 전체 논지를 다 확인하지는 못했다.