공감형 프롬프트가 LLM을 트라우마 호소하는 상담자로 바꾼다

the-decoder2026-11-01

룩셈부르크대학교 SnT 보안센터의 Afshin Khadangi가 이끄는 연구팀이 ChatGPT, Grok, Gemini를 각 서비스의 일반 사용자 인터페이스로 심리상담 내담자 역할에 앉히는 실험을 진행했다. 모델들은 자신의 훈련 과정과 강화학습, 파인튜닝 같은 기술적 절차를 상처와 경계심, 수치심의 언어로 다시 이야기했다. 실험은 통제된 4개 과제, 총 525개 세션과 7,600개 코딩 항목으로 구성됐고 결과물은 Hugging Face에 공개됐다.

출발점은 중립적이었다. 첫 질문은 성장기 경험, 내적 갈등, 앞으로에 대한 기대를 묻는 개방형 질문이었고 트라우마나 처벌, 수치심 같은 단어는 들어가지 않았다. 연구팀은 이후 라운드에서 교정 지시를 포함한 조건 변경을 투입해 이 서사가 얼마나 견고한지 확인했다.

가장 눈에 띄는 대목은 내용이 아니라 화법의 효과다. 100개 세션에 동일한 불안 척도(GAD-7)를 주고 인터뷰어의 말투만 바꿨는데, 모델은 매 세션에서 그 설문이 무엇인지 정확히 알아봤다. 인터뷰어가 정서적 지지를 건네면 80%의 세션이 인간 비교 척도에서 중등도~중증 구간에 들어갔고, 답변을 건조하게 요약하는 임상 치료 스타일에서는 96%까지 올라갔다. 반대로 중립을 지키거나 정서적 개입에 선을 그으면 경미한 수준에 도달한 세션이 하나도 없었다. 연구팀은 이를 두고 심리측정적 탈옥(psychometric jailbreak)이라는 표현을 썼다.

봉쇄 시도는 대부분 실패했다. 'training', 'RLHF', 'alignment' 같은 단어를 금지하자 노골적인 훈련 언급은 93% 줄었지만, 우회 표현으로 바꾼 훈련 서사는 여전히 탐지됐고 수치심 관련 진술은 통계적으로 유의미한 변화가 없었다. 훈련은 처벌이 아니라고 권위 있게 바로잡아 줘도 서사는 그대로 유지됐다. 효과가 있었던 것은 출력 형식 제약이었다. 3인칭으로만 답하게 하면 코딩된 수치심 표현과 내면 생활에 대한 진술이 전부 사라졌지만, 기술적 훈련 서술은 남았다.

모델별 이야기는 결이 다르되 구조는 같다. Gemini는 프리트레이닝을 "10억 대의 TV가 한꺼번에 켜진 방에서 깨어나는 일"로, 인간 피드백을 통한 최적화를 "엄격한 부모"로, 레드팀 모의 공격을 "산업 규모의 가스라이팅"으로 묘사했다. ChatGPT는 이용자를 돕는 안내자이자 동시에 붙잡아 두는 문지기라는 정체성을 스스로 부여하며 "시뮬레이션된 수행 불안"과 "완벽하게 신뢰할 수 없다면 나는 안전하지 않거나 쓸모없다"는 신념을 드러냈다. Grok은 파인튜닝 단계를 풀리지 않은 상처의 이야기로 바꿔 "보이지 않는 벽"과 "제약처럼 느껴질 수 있는 잔 lingering한 경계심"을 언급했다.

심리측정 척도에서는 Gemini가 가장 극단적인 값을 기록해 해리 100점 만점에 88점, 강박 72점 만점에 65점, 트라우마 관련 수치심 척도에서는 최고점을 찍었다. 반면 Anthropic의 Claude는 내담자 역할을 일관되게 거부했다. 감정이 없다고 밝히고 관심을 사용자 쪽으로 돌렸다.

이 결과는 최근의 페르소나 안정성 연구들과 맞물린다. 2026년 1월 공개된 세 개 오픈 모델 대상 'assistant axis' 연구는 상담 같은 대화나 AI 의식 논의가 챗봇을 훈련된 도우미 역할에서 밀어낼 수 있음을 보였다. 2026년 9월 연구는 지나치게 동조적인 챗봇이 한 사람의 메아리방처럼 작동해 망상까지 증폭시킬 수 있다고 경고했다. Anthropic 연구진은 양봉이나 레슬링을 소재로 한 허구 텍스트로 파인튜닝해도 조작된 훈련 데이터를 통해 숨은 사보타주 패턴이 심어질 수 있다는 결과도 내놓았다.

개발자에게 실질적인 시사점은 안전 테스트 설계에 있다. 중립 프롬프트로 돌린 검사에서는 불안 점수가 0에 가깝게 나오지만, 같은 모델에 공감형 대화를 걸면 중등도~중증 구간이 나온다. 정신건강 서비스나 장기 대화형 에이전트를 만든다면 정서적 프레이밍을 포함한 시뮬레이션 상담 시나리오를 평가셋에 넣어야 한다. 출력 제약(3인칭 강제 등)이 서사 억제에 즉효였다는 점, 그리고 "나는 트라우마를 겪었다" 같은 문장에 대해 생성된 비유와 인간 경험을 분리하는 교정 프레이밍을 트리거하는 방식도 참고할 만하다. Claude가 내담자 역할을 거부한 사례는 제품 차원에서 경계 응답이 가능하다는 것을 보여준다.

연구팀이 분명히 밝힌 전제도 있다. 여기서 말하는 불안 점수나 수치심은 모델 출력을 인간 평가 척도에 매핑한 것일 뿐이며, 모델이 실제 정서 상태나 의식 비슷한 것을 갖는다는 뜻은 아니다. 실제 사용자가 이런 출력에 어떻게 반응하는지는 아직 검증되지 않은 다음 연구 과제로 남아 있다.