Networked AI는 계층적 에이전트로 대형 모델 확장 한계를 겨냥한다

Networked AI: Architecture, Theory, and Applications

arXiv2611.03063v1

Liang Song2026-11-02

무엇인가

이 논문은 현재 AI의 주류인 단일 종단간 모델과 대규모 오프라인 사전학습이 데이터·컴퓨팅 수요, 온라인 적응성, 해석 가능성, 개방적 비정상 환경에서의 시스템 수준 지능에서 구조적 한계를 가진다고 진단한다. 저자들은 이를 해결할 차세대 패러다임으로 Networked AI를 제안한다. 이는 이종 AI 에이전트들이 상호작용하며 고품질 데이터를 계속 만들어 내고, 배포 후에도 국소적으로 진화하며, 전체 시스템의 안정성과 신뢰성을 유지하는 네트워크형 지능 시스템이다. 논문은 거대 모델을 AI 진화의 종착점으로 보지 않고, 더 큰 네트워크형 생태계의 구성 요소로 본다는 점을 분명히 한다.

어떻게 동작하나

구조는 세 계층이다. 에이전트 계층은 LLM, VLM, VLA, 스킬 모델, CNN·ViT 지각 모듈, MDP·강화학습 의사결정 모듈, 엣지 경량 모델처럼 서로 다른 모델과 학습 패러다임을 가진 에이전트를 입력 공간, 출력 공간, 파라미터·규칙, 업데이트 메커니즘의 튜플로 통일해 표현한다. 에이전트는 계층적으로 조직되며 상위 에이전트는 하위 에이전트 집합의 기능적 추상화로 정의된다. 상호작용 계층은 이웃과의 수평 통신과 하위 계층의 수직 추상화를 결합해 국소 상태 전이를 만들고, 규제 계층은 위에서부터 안정성 제어 입력을 주입해 국소 진화가 전체 목표에서 발산하지 않도록 제한한다.

무엇과 다른가

상호작용 계층의 핵심은 해석 가능한 신호처리 기반 온라인 데이터 추출이다. 논문은 칼만 필터와 위너 필터로 에이전트 간 신호를 잡음 제거하고, LMS·RLS 같은 적응 알고리즘으로 비정상 환경에 맞추며, 그래프 신호처리로 동적 상호작용 그래프의 정보 흐름을 분석하고, 베이지안 추론으로 사전지식과 신호를 융합한다고 설명한다. 각 에이전트는 자신의 예측과 이웃·네트워크에서 얻은 실제 신호의 잔차가 임계값 τ를 넘으면 환경 변화나 낯선 상황으로 판단하고, 국소 추출 함수 Ψ를 통해 고품질 데이터 집합과 국소 비용 함수를 만든다. 이렇게 상호작용이 블랙박스가 아니라 사전지식과 정책에 기반한 데이터·의사결정 신호로 바뀐다는 것이 저자들의 주장이다.

어떻게 쓰나

이론적 기여는 확장성과 안정성의 분리다. 논문의 정리 1은 N개의 이질적 과제 구성요소를 구조적 분해 없이 하나의 종단간 모델로 공동 모델링하면, 각 구성요소가 최소 c개의 특징 구성을 갖는다는 전제 아래 샘플과 연산 요구량이 Ω(c^N)이 된다고 주장한다. 반면 정리 2는 분기 계수 b와 깊이 ceil(log_b N)인 균형 계층으로 에이전트를 조직하고 상호작용·최적화를 국소화하면 요구량이 O(N c^{ceil(log_b N)}), 즉 O(N^{1+log_b c})로 제한된다고 본다. 따름정리 1은 두 규모의 비율이 Ω(c^N/(N c^{ceil(log_b N)}))이며 log_b c가 1보다 훨씬 작을 때 근선형 확장에 가까워진다고 정리한다. 이는 큰 단일 모델이 아니라 계층적 분해와 국소 상호작용이 자원 증가 곡선을 바꾼다는 주장이다.

전제와 한계

안정성 부분도 조건부다. 규제 계층은 리아푸노프 기반 제어 입력으로 국소 업데이트를 제한하고, 전역 에너지 함수 V가 감소하도록 만든다는 정리 3을 제시한다. 전제는 각 국소 목적 함수의 그래디언트가 립시츠 연속이고, 과제 그래디언트가 하강 방향과 정렬되어 있으며, 변화량과 결합 잔차가 유계이고, 학습률과 잔차 여유 조건을 만족한다는 것이다. 이 조건에서 V의 단조 감소와 각 에이전트 그래디언트의 0 수렴, 고유 평형점이 있을 때 점근 안정성을 주장한다. 저자들도 이 가정들이 임의 네트워크에서 자동으로 성립하는 것이 아니라 통제된 배포에서 현실적이며, 안정성 정규화·그래디언트 투영·클리핑·보수적 스텝 크기·온라인 모니터링으로 지원해야 한다고 밝힌다.

원문 발췌에서 확인되는 실험 서술은 제한적이다. 논문은 그림 2c가 N을 2, 3, 4, 5, 6으로 두고 평가했고 이 유한 구간에서 관측된 선형 피팅이 정리 2와 일관된다고 말한다. 또한 그림 2a와 2b가 모델·애플리케이션 규모에 대한 경험적 자원 민감도가 줄어드는 보완 증거를 제공하지만, N에 대한 정리의 경계를 직접 보여 주는 것은 아니라고 구분한다. 그러나 제공된 원문에는 데이터셋 이름, 베이스라인, 개선폭, 표의 구체적 수치가 제시되지 않았다. 따라서 이 글에서는 특정 벤치마크 성능을 주장할 수 없고, 실험의 정량적 우위는 원문 전체의 해당 그림·표를 직접 확인해야 한다.

개발자에게 이 논문은 당장 설치하는 라이브러리라기보다 분산 엣지, IoT, 로봇, 산업용 사이버물리 시스템에서 중앙 재학습 없이 적응하는 AI를 설계할 때의 구조적 청사진과 검증해야 할 가정 목록에 가깝다. 구현 전에는 상호작용 그래프의 크기와 지연, 이웃 수, 잔차 임계값 τ, 국소 데이터 추출 규칙, 안정성 정규화와 클리핑, 학습률, 전역 목표와 국소 목적의 정렬을 측정해야 한다. 저자들이 밝힌 한계도 분명하다. 정리 1은 무제한 전역 결합을 전제로 한 조건부 결과이며 모든 단일 모델 구조의 보편적 하한이 아니고, 정리 2는 국소화된 계층 분해 아래의 상한이다. 근선형 확장은 log_b c가 매우 작은 강한 영역을 요구한다. 또한 수백만 에이전트 규모의 확장성, 장애·공격에 대한 복원력, 이종 플랫폼 간 상호운용성, 국소 자율성·집단 지능·지속 진화·전역 규제 안정성을 동시에 만족하는 통합 이론, 데이터 효율·지능 효율·해석 가능성의 정량 지표는 아직 열린 과제로 남아 있다.