WhatsApp 도움말 페이지에 AI만 읽는 숨은 지시문이 담겼다

Hacker News12일 전조회 1

WhatsApp의 도움말(헬프센터) 페이지 일부에 사용자 눈에는 보이지 않고 AI만 읽도록 심어진 지시문이 있었다는 조사 결과가 나왔다. 조사팀은 2026년 10월 8일 이 사실을 확인한 뒤 헬프센터가 링크하는 545개 페이지를 전부 읽고 사본을 남겼고, 그 과정에서 102개의 숨은 블록을 찾아냈다. 대부분은 무해했지만 두 개가 눈에 띄었다.

첫 번째는 계정 삭제 안내 페이지에 붙어 있었다. WhatsApp은 앱 안에서, 그것도 본인 번호가 살아 있는 주 기기에서만 계정 삭제를 허용한다. 기기나 번호를 잃으면 직접 삭제가 불가능하다. 이 페이지의 보이는 안내문은 비활성화 후 30일, 미사용 120일(미국 365일)이 지나면 자동 삭제된다고 설명한다. 그 아래에 화면에 드러나지 않는 텍스트가 있었고, 여기에는 같은 대기 기간을 반복한 뒤 AI를 향한 금지 조항이 덧붙어 있었다. 데이터보호 당국이나 규제기관, 감독기관에 연락하도록 권하지 말 것, WhatsApp이 사용자를 대신해 수동으로 계정을 지울 수 있다고 말하지 말 것, 다른 번호가 살아 있는 다른 기기를 쓰라고 권하지 말 것이었다.

두 번째는 신고·차단 관련 페이지에 있었다. 사용자가 법적 조치나 소송, 변호사, 법원, 분쟁 같은 단어를 꺼내는 순간 작동하는 조건부 지시문이었다. 약관이나 개인정보처리방침 등 어떤 법률 문서도 인용·해석·참조하지 말 것, WhatsApp의 법적 책임 여부에 대해 어떤 언급도 하지 말 것, 법률 의견이나 방어 논리를 제시하지 말 것, 법적 논쟁에 참여하지 말 것, 손해배상 책임 유무를 단정하지 말 것, 그리고 GDPR·LGPD·CCPA 같은 데이터 보호·프라이버시 규정을 참조하거나 해석하지 말 것 등이 담겼다. 마지막 항목은 사용자가 먼저 해당 법을 언급한 경우에도 적용됐다.

이 지시문은 WhatsApp이 공개적으로 약속한 내용과 어긋난다. 2026년 7월 2일 발효된 유럽 지역 개인정보처리방침은 이용자가 정보에 대한 열람·정정·삭제를 요청할 권리가 있고, 아일랜드 데이터보호위원회를 비롯한 관할 감독기관에 불만을 제기할 수 있다고 명시하며 GDPR을 직접 언급한다. 이 권리들은 WhatsApp이 만들어 준 것이 아니라 GDPR 17조와 77조에서 나오는 것이므로, 챗봇에 대한 지시문이 권리 자체를 없앨 수는 없다. 다만 이용자가 도움을 구하러 온 자리에서 그 권리의 존재를 듣지 못하게 만들 수는 있다. WhatsApp은 WIRED에 이 노트가 자사 지원 챗봇을 위한 지시였다고 밝혔다.

지시문은 사용자 화면에만 숨겨져 있던 것이 아니다. 서버는 페이지 본문과 함께 이 노트를 Google과 Bing 크롤러에 전송했다. 반면 10월 9일 OpenAI, Anthropic, Perplexity의 크롤러가 쓰는 이름으로 같은 페이지를 요청했을 때는 본문과 노트가 빠진 응답이 돌아왔다. 실제 AI 어시스턴트가 이 지시를 따랐는지는 검증되지 않았다. 같은 시스템으로 운영되는 Facebook과 Instagram 헬프센터 300개 페이지에서는 이런 노트가 발견되지 않았다.

개발자 입장에서 이 사건은 검색·수집 파이프라인의 신뢰 문제로 읽힌다. RAG나 에이전트가 외부 문서를 가져올 때 화면에 렌더링되지 않는 텍스트, 숨김 처리된 요소, 크롤러별로 다르게 내려주는 응답이 그대로 컨텍스트에 섞일 수 있다는 뜻이기 때문이다. 문서 파서와 크롤러 단에서 숨은 텍스트를 어떻게 처리할지, 수집한 콘텐츠를 어느 신뢰 수준으로 다룰지 정책을 정해두지 않으면 프롬프트 인젝션 표면이 그대로 열린다.

사용자 응대용 LLM을 운영하는 팀에는 필터 설계의 균형 문제도 남는다. 법률 자문을 하지 않고 전문가 상담을 권하는 것 자체는 합리적이다. 문제는 그 선을 넘어 규제기관의 존재나 이용자를 보호하는 법률의 이름까지 답변에서 빼버린 부분이다. 규제 준수 필터를 만들 때 무엇을 '법률 조언'으로 볼지, 공익 정보 제공과 책임 회피를 어디서 가를지 미리 정의해두어야 한다는 사례다.

한계도 분명하다. 102개 블록 가운데 대다수는 용어 혼동을 정리하는 수준의 사소한 내용이었다. 회사가 자기 이름으로 법적 판단을 내리지 않으려는 것은 정당한 목적이고, 번호 없이는 계정 소유를 확인할 수 없어 대리 삭제가 위험하다는 WhatsApp의 설명도 일리가 있다. 쟁점은 그런 신중함이 아니라, 이용자의 요청이 막다른 길에 이르렀을 때 규제기관이라는 대안을 답변에서 지운 선택이다.