AI가 장애 대응을 맡을수록 SRE의 실전 감각은 녹슨다

Hacker News어제

옵저버빌리티 업체 SigNoz가 뉴스레터에서 던진 질문은 'AI가 SRE를 대체하는가'가 아니다. 장애 대응의 95%를 AI가 처리할 때, 정작 중요한 나머지 5%를 다루는 능력이 같이 망가지는지에 대한 물음이다. 결론부터 말하면 저자는 대체가 아니라 숙련 저하(deskilling) 쪽에 무게를 둔다.

이 논의의 뼈대는 1983년 인지심리학자 리잔 베인브리지가 발표한 '자동화의 아이러니(Ironies of Automation)'다. 공장 자동화를 연구한 이 논문의 관찰은 단순하다. 자동화가 잘 돌아갈수록 인간은 평소에 개입할 일이 없어지고, 정작 자동화가 무너지는 드문 순간에만 호출된다. 그런데 그 순간에 필요한 기술은 평소 쓰지 않아서 가장 먼저 삭제된다. 결과적으로 남은 사람은 지루한 감시와 준비되지 않은 위기를 번갈아 맞는 최악의 역할을 떠안는다.

지금 SRE 업무에서 이미 자동화·AI 보조가 자리 잡은 영역은 꽤 넓다. 알림 노이즈 묶음 처리, 알려진 이슈에 대한 런북 자동 실행, 로그 패턴 탐지와 이상 징후 표시, 과거 장애 이력에 기반한 원인 후보 제시, 크래시된 파드 재시작이나 과부하 서비스 스케일업 같은 정형 장애의 자동 복구가 그렇다. 다음 단계로 논의되는 것은 메트릭·로그·트레이스의 다중 신호 상관분석, 부분적으로만 이해된 장애에 대한 자율 근본원인 분석, 사용자 영향 전 예측 감지, 변경 리스크 자동 평가와 롤백이다.

PagerDuty가 정리한 계층 모델은 이 흐름을 잘 압축한다. 원인과 해결책이 모두 알려진 1티어 장애는 완전 자동화하고, 부분적으로 이해된 2티어는 AI가 권고안을 내되 사람이 검증한다. 새롭고 복잡하게 연쇄되는 3티어만 사람이 주도하고 AI는 맥락을 보조한다. 문제는 사람이 3티어만 맡게 될 때, 그 3티어를 풀어낼 직관을 어디서 쌓느냐다. 직관은 반복적인 야간 호출과 손으로 로그를 뒤지는 경험에서 자란다.

다른 분야의 데이터도 같은 방향을 가리킨다. 내시경 용종 검출에 AI 보조를 쓰던 의료진의 비보조 검출률이 일정 기간 후 28%에서 22%로 떨어졌다는 연구가 있다. 이론을 잊어서가 아니라 해당 기술을 직접 쓸 일이 줄었기 때문이다. 항공에서는 자동조종 의존도가 높은 장거리 조종사의 상황인식과 수동 조작 능력이 측정 가능한 수준으로 저하됐고, 결국 FAA가 수동 비행 시간을 의무화하는 규제를 넣었다.

더 까다로운 지점은 당사자가 그 하락을 느끼지 못한다는 것이다. AI 도구는 작업을 쉽게 느껴지게 하고 눈에 보이는 성과를 끌어올리기 때문에, 사용자는 자기 실력의 실제 상태를 정확히 판단하기 어렵다는 것이 인지 연구의 설명이다. 대시보드는 초록불이고 생산성 지표는 오르는데, AI가 한 번도 본 적 없는 패턴의 장애가 수요일에 터지는 순간 근육이 빠져 있다는 사실을 알게 된다.

SRE에게 이 현상은 구체적인 습관 변화로 나타난다. 원본 로그를 읽는 대신 AI 요약을 보고, 장애 중에 스스로 가설을 세우는 대신 AI가 준 원인 후보를 받아들이고, 시스템 의존 관계를 머릿속에 그리는 대신 자동 생성된 맵을 참조한다. 하나하나는 생산성 향상이지만 합쳐지면 예상 밖의 상황에서 SRE를 유능하게 만드는 전문성이 비어가게 된다.

저자가 더 우려하는 것은 '한 번도 배우지 못함(never-skilling)'이다. 숙련 저하는 갖고 있던 능력을 잃는 것이지만, 이쪽은 애초에 능력을 만들어 본 적이 없는 상태다. 대응 워크플로 대부분을 AI가 처리하는 환경에 들어온 주니어 SRE는 기본 직관을 몸으로 익힐 기회 자체를 얻지 못한다. 게다가 실력이 준다는 걸 아는 사람일수록 AI에 더 기대고, 그 기대가 다시 실력을 깎는 악순환이 따라붙는다.

실무적 함의는 AI 도구를 걷어내라는 쪽이 아니다. 오히려 자동화에 맡길 부분과 사람이 직접 해봐야 하는 부분을 훈련 설계 차원에서 분리해야 한다는 쪽에 가깝다. 자동화가 충분히 잘하는 작업이라도 일부러 손으로 수행하는 시간을 의도적으로 확보하는 방식이다. 온콜 로테이션과 장애 회고를 운영하는 팀이라면 누가 어떤 판단을 직접 해봤는지까지 기록해 둘 필요가 있다.

다만 이 글은 뉴스레터 형식의 논평에 가깝고, 인용된 근거도 개별 연구 사례와 업계 관찰에 기댄다. AI 보조가 숙련에 미치는 영향을 정량화한 SRE 대상 연구는 제시되지 않았다. 저자 역시 AI 도구 도입 자체에는 반대하지 않으며, 남은 과제는 훈련 체계를 어떻게 다시 세울지다.