메타가 AI 오류 책임을 고객사로 떠넘기는 약관을 10월 30일부터 적용한다

메타가 오는 10월 30일 발효되는 상용 약관 개정안에서 자사 AI 기능이 낸 오류의 법적 책임을 기업 고객에게 넘긴다. AI가 부정확하거나 부적합한 결과를 내놓더라도 그 위험은 이를 사용하는 기업이 전부 부담하는 구조다. 여기에 계약 파트너나 외주 업체가 저지른 일까지 고객 책임 범위에 묶인다.

문제의 조항은 먼저 AI 기능이 실수할 수 있고 항상 정확하거나 완전하거나 적합한 결과를 내지는 않는다고 스스로 인정한다. 그다음 그런 기능과 그로부터 나온 콘텐츠에 따르는 모든 위험을 고객이 단독으로 책임지고 인수한다고 규정한다. 조사기관 딕슨 리서치의 프랭크 딕슨 수석 애널리스트는 이 구조가 책임 소재를 거꾸로 뒤집는 것이라고 지적했다. 모델을 만든 쪽이 오류 가능성을 인정하면서 위험은 전부 사용 기업에 넘긴다는 것이다.

데이터 조항도 함께 손봤다. 메타는 스크래퍼, 봇, 로봇, 스파이더, 크롤러, 사용자 에이전트 같은 자동화 소프트웨어를 동원해 자사 제품·서비스와 연결된 도메인과 웹페이지, URL, 그 안의 콘텐츠에 접근하고 색인·캐시·분석·수집·검색할 수 있는 권한을 스스로에게 부여했다. 테스트용 자격증명을 만들어 접근하는 것도 허용되며, 이렇게 모은 데이터를 광고와 비즈니스 제품의 제공·개발·개선·연구·유지에 쓸 수 있다고 명시했다.

메타는 이후 입장을 일부 정리했다. 메타 공보 담당 에밀 바스케스 매니저는 이 크롤링 조항이 광고·비즈니스 제품에만 적용되며 웹 크롤러 운용 방식이 달라지는 것은 아니라고 설명했다. 콘텐츠 소유자는 여전히 robots.txt로 선호를 표시할 수 있고, 뉴스 사이트 긁어오기와는 무관하며 기존 선호를 무효화하는 새 권리를 얻은 것도 아니라는 해명이다. 다만 보도 시점인 월요일 밤(뉴욕 시간)까지 제안 문서의 문구에는 이 내용이 반영되지 않은 상태였고, 곧 수정이 이뤄질 예정이라고만 밝혔다.

콘텐츠 라이선스 범위도 넓어졌다. 메타 제품에 사진이나 영상을 올리면 지식재산권이 걸린 콘텐츠에 대한 라이선스가 메타에 부여되는데, 본인뿐 아니라 광고를 대행하는 에이전시나 페이지 운영을 맡은 서비스 제공자가 올린 것까지 포함된다. 지난 7월 계약 변경으로 이 라이선스는 영구적 성격을 갖게 됐고 어떤 당사자가 계약을 해지해도 살아남는다. 컨설팅사 디지털520의 노아 케니 수석 컨설턴트는 라이선스가 끝나는 시점이 계약 종료가 아니라 콘텐츠가 메타 시스템에서 삭제되는 때라고 짚었다.

실무에서 가장 직접적인 변화는 역시 책임 소재다. 메타 제품 위에 자체 AI 기능을 얹어 고객 서비스에 쓰는 기업이라면, 모델이 내놓은 부적합한 결과에 대한 법적 위험을 자사가 떠안게 된다. 아키도 시큐리티의 마이크 윌크스 기업 CISO는 동물보호단체가 메타에 강아지 이미지 생성을 요청했다가 부적합한 결과가 나왔을 때 그 단체가 책임을 지는 상황을 예로 들며, 모델을 통제하는 쪽은 메타뿐인데 책임만 고객에게 넘어간다고 비판했다. 사내 AI 사용 정책과 출력 검수·로깅 절차, 계약서의 면책 조항을 다시 손봐야 한다는 뜻이다.

문구를 다듬어도 실질은 크게 달라지지 않는다는 분석도 나온다. 인포테크의 토머스 랜달 리서치 디렉터는 개정판에서 '학습'이라는 단어가 빠지고 수집 목적이 광고·비즈니스 제품의 개발과 유지, 메타 제품의 무결성·보안 보호로 표현됐을 뿐이라고 본다. 지속 사용이 곧 동의이고, 면책 범위는 넓으며, 제품은 있는 그대로 제공되고, 메타는 예고나 책임 없이 제품을 중단할 수 있다는 조항이 맞물려 일방통행 구조가 된다는 평가다. 'Meta Company Products' 목록이 별도 페이지에서 수시로 개정될 수 있어 라이선스가 적용되는 범위 자체가 사후에 늘어날 수 있다는 점도 변수로 꼽힌다.

주의할 점은 이번 개정안이 확정본이 아니라는 것이다. 메타는 발효 전까지 문구를 바꿀 수 있고, 크롤링 조항의 표현도 수정이 예고된 상태다. robots.txt가 더 이상 실질적인 보호 장치가 아니라는 진단 역시 업계 관계자의 전망이지 메타의 공식 입장은 아니다.