클라우드 전송 배제한 온디바이스 사기 탐지

구글 딥마인드가 2026년 10월 14일 싱가포르 정부기술청(GovTech Singapore)과의 협력 결과물로 온디바이스 사기 탐지 인공지능 모델을 공개했다. 구글 딥마인드 블로그에 따르면 싱가포르에서 보고된 범죄 가운데 절반 이상이 투자 사기, 허위 구직, 공무원 사칭 등 사기 범죄이며, 2019년 이후 발생한 누적 피해액은 40억 싱가포르 달러를 넘었다. 특히 단순 피싱 링크 전송 방식에서 벗어나 피해자와 정교하게 대화를 나누며 조작하는 사회공학적 사기가 전체 손실액의 최대 80%를 차지하는 것으로 집계됐다.

양측이 개발한 모델은 외부 클라우드 서버로 대화 내용을 전송해 검사하던 기존 보안 방식과 달리, 사용자의 단말기 내부에서 직접 대화 흐름을 분석한다. 구글 딥마인드는 사용자가 동의한 애플리케이션 안에서만 대화에 접근하며, 분석 처리가 스마트폰 내부에서 완결되므로 싱가포르 정부나 구글 모두 원본 대화에 접근할 수 없다고 설명했다.

젬마 기반의 2단계 파이프라인 구조

일반적인 범용 거대언어모델은 특정 국가나 지역의 사칭 방식, 문화적 어조를 구별하는 데 한계가 있다. 이를 보완하기 위해 싱가포르 공공기관, 현지 은행, 유명 인사 사칭 사례와 지역별 유행 수법을 학습 데이터로 삼아 구글의 경량 모델 젬마(Gemma)를 미세조정(Fine-tuning)했다. 일상적인 친교 대화와 사기 목적의 유도 대화를 가려내는 데 초점을 맞췄다.

스마트폰의 배터리 소모와 연산 부하를 줄이기 위해 시스템은 2단계 파이프라인으로 설계됐다.

  • 1단계 저전력 선별: 수신된 메시지를 저전력 경량 분류기가 1차 검사해 잠재적 위협 가능성이 있는 대화만 걸러낸다.
  • 2단계 문맥 심층 분석: 의심 정황이 감지되면 미세조정된 젬마 모델이 이전 대화의 문맥을 함께 분석해 조작 의도를 확인하거나 오경보를 배제한다.

모델이 조작적 대화 패턴을 확인하면 기기 화면에 실시간 경고를 띄워 민감한 개인정보나 금융 정보를 전달하기 전 주의를 환기한다.

주권형 샌드박스에서 익명 데이터로 학습

구글 딥마인드는 이번 모델을 싱가포르 국제 사이버 위크(SICW 2026)에서 소개하며 데이터 통제 절차를 함께 공개했다. 모델 미세조정은 GovTech Singapore가 관리하는 구글 클라우드 플랫폼(GCP) 내 격리 환경인 소버린 샌드박스(Sovereign Sandbox) 안에서만 진행됐다.

학습 과정에서 일반 시민의 개인정보나 식별 가능한 데이터는 배제됐다. 대신 사기 신고 내역과 위협 인텔리전스 피드에서 추출한 익명 데이터셋, 합성 대화문, 현지 코퍼스를 활용해 모델의 스트레스 테스트를 거쳤다. 구글 딥마인드는 이번 온디바이스 탐지 모델을 싱가포르 정부와의 협의를 거쳐 애플리케이션 단위로 단계적 적용할 계획이라고 밝혔다.

이 사이트가 보는 지점

이번 협력은 경량화된 언어 모델의 주 역할이 웹 정보 검색이나 색인 인용을 넘어, 단말기 내부에서 개인 간 텍스트의 맥락적 안전성을 실시간 검증하는 엔진으로 옮겨붙고 있음을 보여준다. 외부 검색 엔진이 출처의 권위를 다루던 규칙과 달리, 온디바이스 환경에서는 로컬 데이터셋으로 미세조정된 모델이 대화 흐름의 의도를 자체 분류한다. AI가 정보의 유효성을 판별하는 표면이 검색 결과창에서 단말기 수신 화면으로 이동할 때, 신뢰 판단의 기준이 어떻게 작동하는지 보여주는 사례다.