AI 에이전트가 사기꾼과 통화해 범죄 정보를 캐낸다

호주 스타트업 아파테(Apate.ai)는 AI 에이전트를 제품 개발이나 업무 자동화에 쓰는 대신 사기범에게 접근하는 잠복 요원으로 쓴다. 사기 전화를 받아주고, 수상한 문자와 메일, 피싱 링크, 소셜 미디어 모임방까지 따라 들어가 범죄자와 대화를 이어가는 방식이다. 목적은 피해자가 생기기 전에 사기 조직의 실체 정보를 확보하는 것이다.

에이전트는 나이와 성별, 억양, 사용 언어를 달리한 가상 인물로 설정된다. 회사 측은 이들이 그동안 250만 건의 대화를 통해 사기범의 시간을 약 17년치 허비시켰다고 설명한다. 단순히 시간을 끄는 데 그치지 않고, 계좌번호와 가상자산 지갑 주소, 전화번호, 악성 웹사이트, 사칭 대상 브랜드처럼 보통은 피해가 발생한 뒤에야 드러나는 단서를 대화 안에서 끌어내는 것이 핵심이다.

이렇게 모인 정보는 은행과 통신사, 정부 기관, 공공요금 사업자 등 고객사에 전달된다. 고객은 자사 이용자나 임직원을 겨냥한 사기 수법을 파악하고 탐지·차단 체계를 손보는 데 이 데이터를 쓴다. 별도의 인사이트 포털에서는 자사 브랜드와 제품을 노린 사기 동향에 대한 분석도 제공한다. 고객이 에이전트에 특정 임무를 직접 부여할 수도 있는데, 예컨대 범죄자의 계좌번호나 지갑 주소를 확보하라는 식이다. 문자 기반 에이전트는 포럼과 투자 모임, 소셜 플랫폼을 돌며 사기 정황을 찾아내고 가짜 신원으로 대화에 들어간다.

출발점은 2024년 설립으로 거슬러 올라가며, 시드니 맥쿼리대에서 진행된 연구가 기반이 됐다. 창업자이자 CEO인 달리 카파르가 몇 년 전 가족 야유회에서 걸려온 모르는 번호의 전화를 44분간 붙잡아 둔 것이 계기였다. 사기범이 그 시간 동안 실제 피해자에게 전화하지 못했다는 사실에 착안해 이를 자동화할 방법을 고민했고, 이후 대학에서 머신러닝과 자연어 처리를 활용해 사기 통화 내용을 분석하고 탐지 기법을 개발하는 연구로 이어졌다.

공동창업자 겸 최고상업책임자인 브래드 조프는 기존 업계가 대부분 사후 대응에 머문다고 지적한다. 통신사가 번호를 차단해도 사기범은 새 번호를 얻고, 은행이 거래를 감시할 때는 이미 고객에게 접근이 끝난 뒤라는 것이다. 아파테는 사기범 쪽으로 직접 들어가 피해가 발생하기 전에 정보를 확보하는 방식을 택했다. 에이전트 구동과 분석에는 최신 상용 모델과 자체 파인튜닝 모델을 함께 쓰며, 학습 데이터는 에이전트가 실제로 나눈 대화와 맥쿼리대 연구 성과에서 나온다.

도입 성과도 일부 공개됐다. 통신사 TPG는 약 59만 건의 통화를 아파테 에이전트로 돌렸고, 커먼웰스은행은 공개적으로 보고된 사기 피해액이 76% 줄었다고 밝혔다. 이름이 공개되지 않은 호주 은행 한 곳은 아웃바운드 에이전트를 활용해 22건의 사기 캠페인을 무력화했다. 이 회사는 올해 테크크런치 디스럽트의 스타트업 배틀필드 200 결선 진출팀 중 하나이기도 하다.

투자도 따라붙었다. 지난 8월 로비캐피털, OIF벤처스, 인베스티블, 컨셉트벤처스, 바오밥벤처스로부터 815만 달러를 유치했고 누적 투자액은 1000만 달러에 조금 못 미친다. 직원 20명 규모인 이 회사는 이번 자금을 제품 개발과 해외 진출에 쓰며 런던 사무소 개설과 미국 시장 확대를 계획하고 있다. 사명은 그리스 신화의 기만의 여신 아파테에서 따왔다.

개발자 관점에서 눈에 띄는 지점은 에이전트를 폐쇄된 테스트 환경이 아니라 적대적인 실제 상대와 맞붙는 곳에 배치했다는 점이다. 상대를 오래 붙잡아 두면서도 정해진 정보를 끌어내야 하므로 대화 전략, 페르소나 일관성, 멀티턴 상태 관리가 제품 성능을 좌우한다. 통화·문자·이메일·웹을 아우르는 채널별 에이전트와 그 결과를 분석하는 파이프라인이 하나의 스택으로 묶여 있다는 점도 참고할 만하다.

다만 원문이 제시한 수치는 대부분 회사와 고객사가 밝힌 자체 집계이며 외부 검증은 이뤄지지 않았다. 사기범과의 대화 데이터를 학습에 활용하는 만큼 개인정보와 통신 규제, 관할별 법적 요건 검토가 전제로 따라붙는다. 에이전트가 사기 조직을 속이는 구조인 이상 상대가 이를 알아채고 역으로 허위 정보를 흘릴 가능성도 남는다.