구글 딥마인드와 싱가포르가 온디바이스 사기 탐지 모델을 내놨다

구글 딥마인드와 싱가포르 정부기술청(GovTech)이 스마트폰 안에서만 동작하는 사기 탐지 모델을 공개했다. 양측이 맺은 국가 AI 파트너십의 결과물로, 대화 내용을 외부 서버로 보내지 않으면서 사기 시도를 걸러내는 것이 목표다. 발표 시점은 2026년 10월 14일이며, 싱가포르 국제 사이버 위크(SICW 2026)에서 소개됐다.

핵심은 구글 딥마인드의 경량 Gemma 모델을 현지 사기 대화 데이터로 미세조정했다는 점이다. 공공기관이나 은행, 현지 인물을 사칭하는 수법부터 그 지역에서 유행하는 사기 유형까지 학습 범위에 들어갔다. 일반적인 모델은 지역 특화 deception 기법에 약하다는 문제의식에서 출발한 것으로, 일상적인 대화와 실제 조작 시도를 구분하는 능력을 끌어올리는 데 초점을 맞췄다.

동작 방식은 두 단계다. 1단계에서는 가볍고 전력 소모가 적은 분류기가 들어오는 메시지를 훑어 위험 가능성이 있는 것만 추린다. 2단계에서는 미세조정된 Gemma가 대화의 더 넓은 맥락을 보고 실제 위협인지 오탐인지 판정한다. 무거운 모델을 항상 돌리지 않는 구조로 배터리 부담을 관리하는 셈이다. 조작 정황이 확인되면 사용자 기기 위에 곧바로 경고가 뜨고, 민감한 정보나 금전을 넘기기 전에 멈추도록 유도한다.

배경에는 심각한 피해 규모가 있다. 싱가포르에서 사기는 신고된 범죄의 절반 이상을 차지하고, 2019년 이후 누적 손실이 40억 싱가포르달러를 넘는다. 단순 피싱에서 사람을 대화로 설득하는 사회공학형 사기로 무게중심이 옮겨가면서, 전체 손실의 최대 80%가 이 유형에서 나온다. 문제는 메신저 상당수가 종단간 암호화를 쓰기 때문에 서버에서 메시지를 들여다보는 기존 방식이 통하지 않는다는 것이다. 위협 분석 자체를 기기로 옮기면 암호화를 유지한 채 대화 패턴을 빠르게 살필 수 있다.

개발 절차에는 제약이 명시됐다. 미세조정은 GovTech가 관리하는 GCP 환경 안에서 이뤄져 학습 데이터가 격리됐고, 사기 신고와 정보 피드에서 파생된 익명 데이터셋만 사용해 개인 식별 정보는 학습에서 제외했다. 다양한 사기 범주와 진화하는 사칭 수법을 포괄하도록 합성 대화와 현지 코퍼스로 스트레스 테스트도 거쳤다.

메신저 플랫폼과 운영체제 벤더 입장에서는 이런 경량 모델을 직접 통합해 사용자 보호 기능을 로컬에서 돌릴 수 있다는 것이 이 사례의 요지다. 서버 스캔 없이도 대화를 노출하지 않고 방어가 가능하다는 구성은, 프라이버시 규제가 빡빡한 시장에서 모바일 기능을 기획하는 팀에 현실적인 선택지를 하나 더해준다. 저전력 1차 필터와 무거운 2차 확인을 나누는 파이프라인 자체도 온디바이스 추론을 다루는 프로젝트에 그대로 응용할 수 있는 설계다.

다만 이 모델은 싱가포르의 일반적인 스마트폰 환경에 맞춰 최적화된 것이며, 배터리 효율이 개발 과정의 주요 우려 사항으로 다뤄졌다. 원문에는 탐지 정확도나 지연 시간 같은 정량 지표가 제시되지 않았고, 실제 배포 범위나 시점도 명시되지 않았다.