LLM 체감 격차는 벌어지는데 기업의 진짜 병목은 데이터 정비에 있다

마틴 파울러가 10월 28일 자신의 사이트에 올린 'Fragments' 글은 하나의 사건 보도가 아니라, LLM을 둘러싼 서로 다른 체감이 동시에 존재한다는 관찰을 모아둔 메모에 가깝다. 그는 안드레이 카파시의 문제 제기를 출발점으로 삼아, 최전선에서 도구를 쓰는 소수와 그렇지 않은 다수 사이의 간극, 기업이 이 기술을 받아들이는 속도, 그리고 코딩이라는 직업 정체성이 흔들리는 지점을 한 번에 다룬다.

카파시가 지적한 것은 능력의 격차가 아니라 인식의 격차다. 일반 대중은 이런 시스템을 거의 써본 적이 없고, 써봤다 해도 어설픈 챗봇 정도로 기억한다. 다수의 전문직 종사자는 생산성이 조금 올라간 정도로 느끼는 반면, 아주 좁은 층은 성능 곡선이 수직으로 치솟는 듯한 감각을 경험한다. 파울러는 이 세 가지가 같은 시점에 벌어지고 있다는 점을 강조한다. 그는 자신도 무료 등급 챗봇을 써보는데, 대체로 쓸 만하지만 결정적인 순간의 불안정성이 유용함 자체를 깎아먹는다고 적는다. 최신 모델이나 정교한 도구 구성이 아니라면 대부분의 사람이 마주하는 경험도 그와 비슷하다는 것이다.

그가 주말을 보낸 곳은 O'Reilly가 운영하는 오픈 스페이스 행사 'Foocamp'였다. 참석자 상당수가 그 '수직 곡선'을 체감한 사람들이어서, 최전선 집단 안에 들어와 있는 듯한 느낌이었다고 한다. 이 자리에서 여러 사람이 개발자에게 에이전트 기반 엔지니어링을 가르치는 몰입형 과정을 이야기했다. 일상 업무 환경에서 벗어나 숙련된 코치와 한두 주를 함께 보내며 도구를 제대로 쓰는 법을 익히는 방식이다. 파울러는 2000년 전후 자신이 관여했던 익스트림 프로그래밍 몰입 교육을 떠올린다. 새로운 작업 방식은 직접 무언가를 만들어봐야 이해된다는 점이 같다는 것이다.

코치들이 공통적으로 관찰한 가장 큰 변화는 기술적인 것이 아니라 정서적인 것이었다. 도구는 도구일 뿐이지만, 이 도구는 소프트웨어 개발자가 무엇인지에 대한 기본 전제를 바꾸고 많은 사람의 정체성을 건드린다. 한 코치는 자신의 주된 일이 그런 사람들을 데리고 커피숍까지 산책시키는 것이라고 말했다고 한다. 파울러는 익스트림 프로그래밍 교육에서 잠금 없는 버전관리 시스템을 보고 첫날 수업을 박차고 나간 참가자를 떠올린다.

기업 이야기도 나온다. 한 참석자는 대기업이 스위스 아미 나이프를 사놓고 이쑤시개만 쓰고 있다고 비유했다. 파울러는 그럴 만한 이유가 충분하다고 본다. 스타트업이나 개인이 뜨거운 기술을 쓰는 것과, 웹사이트 장애와 공장 중단이 전혀 다른 무게를 갖는 조직에서 쓰는 것은 다르다. 대기업의 업무 흐름은 수년에 걸쳐 많은 사람 손을 거쳐 만들어졌고 쉽게 바뀌지 않는다. 보안 우려도 상존하고, 그가 '치명적 삼중고'라 부르는 위험 조합도 여전히 도사린다. 특히 제대로 된 AI 활용은 양질의 데이터에 기대는데, 정작 많은 조직이 데이터를 쓸 만한 상태로 갖춰두지 못했다. 에이전트가 바로 쓸 수 있는 데이터를 만드는 일은 간단하지 않고, 그 길에 들어서기 전에는 나이프와 톱을 꺼내기 어렵다. 그가 놀란 것은 Foocamp에서 이 주제에 대한 대화가 거의 없었다는 점이다. 그만큼 참석자들에게는 이미 보이지 않는 문제라는 뜻이다.

같은 주말 아폴로의 수석 이코노미스트 토르스텐 슬록이 테크 섹터 밖에서는 AI의 성과가 아직 나타나지 않는다는 짧은 보고서를 냈다. 소수 대형 기술 기업을 제외하면, 쏟아붓는 투자를 정당화할 만한 생산성 향상 데이터가 아직 없다는 요지다. 파울러는 절반은 맞다고 본다. 밸류에이션이 과열인 것은 분명하고 거품은 반드시 꺼질 것이다. 그러나 투자 자체가 낭비라는 결론은 아니라고 말한다. 지금의 초기 데이터로 그 질문에 답하려는 것은 1997년에 인터넷이 돈이 될지를 판정하려는 것과 같다. 결과가 나오려면 시간이 더 필요하다. 그는 지금이 1997년인지 1999년인지까지는 확신하지 못하면서도, 닷컴 붐과 닮았고 규모는 더 크다고 본다. 펫츠닷컴이나 웹밴 같은 회사가 무너졌지만 1997년 아마존에 투자한 사람은 큰 수익을 냈다는 사실도 함께 짚는다.

그는 투자를 주식 매수만으로 한정하지 않는다. 우리가 소중한 시간과 에너지를 어디에 쓸지 정하는 것 역시 투자다. 답을 증명하는 무언가를 만들 수 있다면 AI가 훨씬 빠르게 답을 찾아내고, 그 과정에서 실제 생산성 이득이 발생한다는 것이 그의 시각이다.

애덤 토른힐의 '그 코딩의 세월은 낭비였나'라는 질문에도 파울러는 답한다. 그에게 에이전트 코딩이 즐거운 이유는 혼자서는 감당하기 어려웠던 큰 문제를 맡을 수 있게 해주기 때문이다. 인프라 업데이트가 더 이상 발목을 잡지 않고, 관심도 없던 빌드 시스템을 익히는 데 시간을 쓰지 않아도 된다. 그는 앞으로 더 높은 수준의 추상화를 다루는 능력을 키우고, 코드를 직접 쓰는 일은 사라져가는 기술이 될 것이라고 받아들이기로 했다. 문제 해결 능력과 논리적 사고, 시스템에 대한 이해는 앞으로도 충분히 보상받을 것이라는 게 그의 내기다. 프로그래밍을 코드 타이핑과 동일시하지 않는다면 정체성을 흔들 이유도 없다는 결론이다. AI가 둘을 분리해 주는 셈이고, 축적된 경험은 무엇을 만들지 그리고 어떻게 잘 만들지를 아는 데서 가장 잘 전수된다.

같은 현상을 다른 각도에서 보는 사람도 있다. 팀 브레이는 문제의 핵심이 생성형 AI가 할 수 있는 일과 없는 일이 아니라 윤리적·경제적 불편함이라고 말한다. 이 기술은 부유한 이들이 더 부유해지려는 목적으로 팔리고 있고, 인력 비용을 줄이려는 조직이 도입하며, 기후 위기를 가속하고 인간의 창작 노동 가치를 떨어뜨린다는 것이다.

애니 벨라는 소프트웨어 개발의 변화를 1960년대로 거슬러 올라가는 직접 제어와 감독 제어의 구분으로 설명한다. 직접 제어에서는 사람이 루프를 닫았다. 요구사항을 해석하고 코드를 고치고 피드백을 받아 다시 행동하는 일을 반복해서 직접 했다. 이제 코딩 에이전트가 코드를 쓰고 테스트를 돌리고 스스로 실수를 고치면서 그 루프를 대신 닫는다. 사람은 무엇을 원하는지 말하고 진행 상황을 지켜보다가 필요할 때 개입하는 감독 제어 쪽으로 이동한다. 그녀는 이 흐름을 엔즐리와 키리스가 제안한 5단계 모델과 연결 짓는다.

정리하면, 지금 벌어지는 일은 도구 성능의 문제라기보다 조직의 데이터 준비도와 개인의 정체성, 그리고 자동화 수준을 어디까지 넘길지에 대한 판단의 문제다. 파울러가 Foocamp에서 얻은 인상도, 기업 데이터가 뒷받침되지 않으면 최신 도구는 이쑤시개 수준에 머문다는 것이었다.