같은 AI 요청도 텍사스에서 스웨덴보다 이산화탄소 8.5배 배출

Hacker News9일 전

해커뉴스에 공유된 한 비교에 따르면, 완전히 동일한 AI 요청이라도 어느 지역의 데이터센터에서 처리되느냐에 따라 배출되는 이산화탄소량이 8.5배까지 벌어진다. 텍사스에서 처리된 요청이 스웨덴에서 처리된 같은 요청보다 8.5배 많은 CO2를 내보낸다는 것이 이 비교의 핵심 수치다.

요청이 같다면 추론에 필요한 연산량과 그에 따른 전력 소비도 같아야 한다. 그렇다면 8.5배라는 격차는 모델이나 GPU가 아니라 전력을 공급하는 전력망의 탄소 집약도에서 나온다. 같은 전력량이라도 석탄·가스 비중이 높은 계통에서 끌어오면 훨씬 많은 탄소가 붙고, 수력·원자력·풍력 비중이 높은 계통에서는 훨씬 적게 붙는다. AI 추론의 탄소 발자국은 모델 내부가 아니라 모델이 꽂혀 있는 콘센트 뒤쪽에서 결정된다는 얘기다.

이 비교가 나온 배경에는 추론 워크로드의 전력 수요가 빠르게 커지고 있다는 상황이 있다. 학습은 한 번 쓰고 끝나는 대규모 이벤트지만, 추론은 서비스가 살아 있는 동안 계속 돌아간다. 데이터센터 입지를 정할 때 전력 단가와 지연시간, 냉각 비용을 따지던 관행에 탄소 집약도라는 축이 하나 더 붙는 흐름과 맞닿아 있다.

개발자 입장에서 실무적으로 달라지는 지점은 배포 토폴로지다. 같은 모델, 같은 컨테이너 이미지라도 어느 리전에 올리느냐가 사용자에게 보고되는 탄소 배출량을 몇 배 단위로 바꿀 수 있다. 추론 서비스의 리전 선택, 배치 작업의 시간대 분산, 탄소 집약도가 낮은 시간대·지역으로 큐를 돌리는 스케줄링이 모델 최적화와 별개로 검토할 만한 레버가 된다. 반대로 말하면 아무리 모델을 가볍게 만들어도 전력망이 그대로라면 얻을 수 있는 감축 폭에는 한계가 있다.

다만 이번 비교에서 어떤 모델과 하드웨어를 썼는지, 계통 탄소 배출계수를 연평균으로 잡았는지 시간대별 실측으로 잡았는지, 데이터센터의 PUE나 서버 제조 단계의 배출량까지 포함했는지는 확인되지 않는다. 연평균 계수를 쓰면 시간대별 변동이 사라지고, 반대로 시간별 계수를 쓰면 같은 지역 안에서도 결과가 크게 흔들린다. 8.5배라는 숫자는 방향성을 보여주는 지표로 읽고, 자체 서비스에 적용하려면 사용 중인 리전의 전력 구성을 직접 확인하는 편이 안전하다.