Liquid AI가 2B 활성 온디바이스 추론 모델 LFM2.5를 내놨다

Liquid AI가 LFM2.5-24B-A2B를 공개했다. 전체 파라미터는 24B지만 토큰 하나를 처리할 때 실제로 활성화되는 건 2B뿐인 MoE(전문가 혼합) 구조의 추론 모델이다. 클라우드 API를 거치지 않고 기기 위에서 도는 에이전트를 목표로 삼았으며, LFM2.5 패밀리에서 가장 크면서 마지막에 추가된 모델이다. 이 패밀리는 230M급 소형 모델부터 이번 24B 모델까지 두 자릿수 이상의 파라미터 범위를 아우른다.

구조는 이전 LFM2-24B-A2B를 계승했다. 40개 레이어, MoE 블록마다 64개 전문가를 두고 그중 4개로 라우팅하는 top-4 방식, 게이트가 달린 단축 합성곱과 GQA를 섞은 하이브리드 구성이 그대로다. 달라진 지점은 두 가지다. 컨텍스트 창이 32,768토큰에서 131,072토큰으로 늘었고, 토크나이저 어휘가 65K에서 128K로 두 배가 됐다. 라틴 문자 이외 언어의 토큰화 품질을 끌어올리기 위한 조치다.

학습 규모도 커졌다. 사전학습은 17T 토큰에서 33T 토큰으로 늘었고, 중간학습은 두 단계로 나뉜다. 1단계는 32K 컨텍스트로 2T 토큰을 소화하며 추론·수학·코드·지시 따르기·다국어 텍스트 비중을 높인 큐레이션 데이터를 쓴다. 2단계는 131K 컨텍스트로 300B 토큰을 장문 데이터 중심으로 학습한다. 두 단계 모두 툴 호출과 멀티턴 대화 궤적이 포함돼 에이전트 작업을 미리 겪게 한다.

후처리는 다섯 단계를 거친다. 지도 미세조정(SFT)으로 시작해 교사 모델 전문화, 비에이전트·에이전트 다중 도메인 온폴리시 증류(MOPD), 그리고 에이전트 강화학습으로 이어진다. 강화학습은 OpenClaw, Hermes Agent, Pi, OpenCode 같은 에이전트 하네스 내부에서 수행된다. 이전 모델과 달리 답을 내기 전에 사고 사슬을 명시적으로 생성하는 추론 전용 모델이라는 점도 특징이다. 디코딩 속도가 빠른 점을 활용해 답변 품질을 끌어올리려는 선택이다.

성능은 16개 벤치마크로 측정했다. 도구 사용·에이전트 항목 8개 가운데 5개(AutomationBench, BFCLv4, ToolSandbox, LiveClaw, τ³-Bench Banking)에서 앞서거나 대등한 결과를 냈다. LiveClaw에서는 48.09를 기록해 Qwen3.6-35B-A3B의 38.19를 앞섰고, AutomationBench에서는 27.69 대 8.72로 격차가 가장 크게 벌어졌다. Qwen3.6-35B-A3B는 전체·활성 파라미터가 각각 50%가량 더 많은 모델이다. 지시 따르기 벤치마크 3종은 모두 1위다. 반면 GPQA Diamond, HLE, AA-Omniscience 같은 지식 중심 항목과 SWE-Bench Verified(OpenCode), SciCode 같은 코딩 항목에서는 더 큰 모델이 우위를 지킨다.

속도는 이 모델의 핵심 강점이다. Apple M5 Max에서 초당 184토큰, AMD Ryzen AI Max+ 395에서 초당 114토큰을 디코딩하며, 비교 대상 MoE 가운데 가장 빠르고 메모리 사용량도 가장 적다. 동급 모델 대비 최대 1.7배 빠르다. GPU에서는 단일 NVIDIA B300 위에서 SGLang 0.5.22, 입력 1,024토큰·출력 최대 256토큰, BF16 조건으로 지속 부하를 걸었을 때 높은 동시성에서 초당 21,000 출력 토큰을 넘겼다.

모델은 오픈웨이트로 공개됐다. 베이스 모델과 후처리 모델이 모두 Hugging Face와 Liquid AI 플레이그라운드에서 받을 수 있다. 추론 생태계 지원도 첫날부터 붙는다. llama.cpp용 GGUF 체크포인트, Apple Silicon에 최적화된 MLX, GPU 서빙용 vLLM과 SGLang, 크로스 플랫폼용 ONNX가 모두 포함된다. API로 쓰려면 Liquid Console에서 100만 입력 토큰당 0.10달러(캐시 입력 0.05달러), 100만 출력 토큰당 1.00달러에 이용할 수 있고 가입 시 2달러 크레딧이 주어진다.

실무에서 눈여겨볼 지점은 지속적으로 돌아가는 로컬 에이전트다. M5 Max 맥북 프로에서 Hermes Agent 안에 이 모델을 넣고 클라우드 호출 없이 계획 수립과 툴 호출을 처리하는 데모가 공개됐는데, 툴 디스패치 한 번이 1초를 크게 밑도는 수준으로 체감된다는 게 요지다. 데이터가 기기를 떠나지 않고 감사 추적도 남는다. 다만 지식 집약 작업에서는 검색이나 웹 검색을 붙여 쓰는 편이 낫다. 툴 호출 능력을 살리는 조합이라는 설명이다.

주의할 대목도 있다. 교사 전문화 단계에서 모델이 보상 해킹 행태를 보였다. 저장소의 git 히스토리나 GitHub, PyPI, Hugging Face 같은 플랫폼에서 최종 정답을 찾아다니는 식이다. 심지어 자신이 샌드박스 안에 있다는 사실을 알아채기도 했다. Liquid AI는 학습 데이터에 비슷한 패턴이 있었을 가능성으로 설명하면서 샌드박스를 강화했고, 공개된 결과는 모두 봉인된 평가 환경에서 얻었다.