행동 중심 AI 설계가 에이전트 중심 설계의 취약성을 푼다

Hacker News18일 전조회 1

AI 시스템을 만드는 방식에 대한 설계론 하나가 주목받고 있다. 최전선 모델에 컨텍스트와 도구를 쥐여주고 다음에 무엇을 할지 스스로 정하게 하는 '에이전트 중심' 접근을 버리고, 재사용 가능한 '행동(behavior)' 단위를 조립해 시스템을 구성하자는 '행동 중심(behavior-centric)' 제안이다. 핵심은 제어 흐름을 LLM이 아니라 코드와 계약이 갖는다는 데 있다.

행동 중심 설계에서 하나의 행동은 타입이 지정되고 검증된 입출력을 갖는다. 결과물은 버전이 붙은 스키마를 따르는 구조화 데이터로 나오고 검색을 위해 자동 인덱싱된다. 자격 증명 접근도 행동별로 격리된다. 이런 성질은 관례나 코드 리뷰가 아니라 런타임에서 플랫폼이 강제한다. 계약이 보장되니 조합이 안정적이고, 최전선 모델이 유지보수하기에도 쉬운 블록이 된다는 논리다.

에이전트 중심 사고는 2022년 11월 ChatGPT 공개에서 출발해 2023년 6월 구조화된 함수 호출을 지원하는 공개 API로 이어졌다. 사용자가 물으면 모델이 도구를 호출해 정보를 더 가져오고, 그 답을 자기 컨텍스트에 넣은 뒤 다음 행동을 확률적으로 정하는 구조다. 업계는 여기에 RAG, 스킬, MCP, MCP 게이트웨이, 모델 라우터, 서브에이전트, 각종 메모리 기법, 하네스 등을 계속 덧붙여 왔다.

문제는 제어 흐름을 LLM이 쥐면 정확성이 매 분기점에서의 올바른 판단에 달린다는 점이다. 여행 계획 에이전트를 예로 들면, 사용자는 항공편과 호텔이 모두 담긴 일정을 기대하지만 계획 에이전트가 예산 제약 같은 이유로 호텔 단계를 건너뛸 수 있다. 결과물이 기대와 어긋나는 것이다.

이를 막으려면 검증과 재작업 레이어를 겹겹이 쌓게 된다. 일정에 호텔이 있는지 다시 확인하고, 없으면 하위 에이전트를 재호출하고, 검증 전용 에이전트를 하나 더 붙여 전체 루프를 다시 돌리는 식이다. 에이전트마다 자기 컨텍스트를 모으고 추론하고 응답을 붙이는 데 토큰을 쓰고, 그 결과를 검증할 에이전트가 또 필요하다. 규모가 커질수록 비용이 통제를 벗어난다.

흥미로운 점은 이런 시스템이 만든 사람에게는 참을 만하다는 것이다. 설계자는 시스템이 왜 호텔을 빼먹었는지 알고, 원하는 결과를 알고, 다시 시도하면 된다. 하지만 사용자가 늘고 기대가 다양해지면 사정이 달라진다. 사내 출장 예약 에이전트가 호텔 없는 일정을 내놓는 상황은 용납되기 어렵다. 기술적으로도 취약성을 메우려면 배포·관측·보안 범위가 계속 넓어진다.

시장 전망도 이 흐름을 반영한다. Gartner는 2027년까지 에이전트 AI 프로젝트의 40% 이상이 취소될 것으로 본다. McKinsey는 AI를 쓰는 기업 중 재무적 성과를 확인한 곳이 37%에 그친다고 보고한다.

행동 중심 설계는 같은 여행 계획 문제를 다르게 푼다. '여행 계획'이라는 의도를 여러 행동으로 쪼갠다. 첫 행동은 Anthropic의 Haiku 5.5를 호출해 사용자 프롬프트에서 목적지 도시, 예산, 날짜를 뽑아낸다. 이 결과는 데이터 계층에 구조화 데이터로 기록되고 자동 인덱싱된다. 호텔·항공편 행동은 주어진 날짜의 도시 안에서 검색해 역시 구조화 데이터로 남긴다. 일정 행동은 후보 목록에서 적절한 항공편과 호텔을 골라 최종 일정을 만들고 진행 상황과 결과를 저장한다. 이 행동들을 묶으면 'plan-trip' 워크플로가 된다.

실무 관점에서 달라지는 것은 제어 흐름의 소유자다. 무엇을 어떤 순서로 할지는 워크플로와 행동 계약이 정하고, 최전선 모델은 정말 추론이 필요한 지점에서만 호출된다. 디버깅은 확률적 판단을 들여다보는 일이 아니라 데이터 계약을 확인하는 일이 되고, 보안 경계와 권한도 행동 단위로 명확해진다. 토큰 소비도 필요한 곳에 집중된다.

다만 이 글은 한 개발자의 설계 제안이지 검증된 표준이 아니다. 행동을 어떻게 쪼갤지, 스키마 버전을 어떻게 관리할지, 런타임 강제를 어떤 플랫폼으로 구현할지는 구체적으로 제시되지 않았다. 에이전트 중심 접근이 완전히 틀렸다는 주장도 아니다. 개인 생산성 수준, 예컨대 소프트웨어 개발 속도 같은 영역에서는 최전선 모델이 이미 많은 문제를 해결하고 있다는 점을 글도 인정한다.