구글, AI 스팸 네트워크 추적 시스템 'SAFE' 공개

쉽게 말하면

구글이 AI로 대량 생성된 스팸 콘텐츠와 가짜 계정 조직을 잡아내기 위해 만든 자동화 시스템 'SAFE'의 논문을 공개했습니다. 이 시스템은 AI 텍스트나 영상을 직접 분석하는 역할, 짧은 시간에 글을 쏟아내는 비정상적인 행동을 감시하는 역할, 계정 간 연결망을 추적하는 역할 등 4개의 특화된 AI가 팀을 이뤄 움직입니다. 단순히 AI가 쓴 글인지 감별하는 것을 넘어, 뒷단에 연결된 스팸 공장 네트워크 전체를 한꺼번에 찾아내는 방식을 취하고 있습니다.

다중 에이전트로 사람의 수동 포렌식 모방

구글이 대규모 AI 생성 스팸 네트워크를 적발하기 위한 신규 자동화 시스템인 'SAFE(Scaled Abuse Forensics Examiner)' 연구 논문을 발표했습니다. ALM 코퍼레이션과 서치엔진저널(Search Engine Journal)의 2026년 9월 25일 보도에 따르면, 구글은 '합성 갭(The Synthetic Gap)'이라는 연구 논문을 통해 해당 시스템의 작동 구조를 밝혔습니다. 구글은 새로운 생성형 공격의 등장과 이에 대한 대응 조치 사이의 시차를 '합성 갭'으로 정의하고, SAFE를 통해 이 간극을 줄이고자 합니다.

기존의 스팸 탐지 방식은 이미 알려진 위반 규칙 목록에 의존하거나 수동 분석에 머물렀습니다. 반면 SAFE는 전문 분석관이 수행하던 조사 방식을 자동화한 다중 에이전트 구조를 채택했습니다. 시스템은 크게 네 가지 에이전트로 나뉘어 작동합니다.

• 루트 에이전트(Root Agent): 전체 조사를 조율하고 하위 전문 에이전트에 작업을 분배하며, 취합된 결과를 검토해 최종 판정을 내립니다.
• 콘텐츠 이해 에이전트(Content Understanding Agent): 트랜스포머 기반 언어 모델을 활용해 AI 생성 아티팩트와 정책 우회 시도를 탐지합니다. 소량의 학습 예시를 바탕으로 명시적 규칙에 없더라도 정책의 취지를 위반(spirit of policy violation)한 콘텐츠를 식별합니다.
• 행동 이해 에이전트(Behavior Understanding Agent): 단기간 대량 발행(burst publishing)이나 비정상적인 활동 주기, 가짜 사용자 행동 신호 등 일반적인 이용자 패턴과 다른 비자연적 행동을 조사합니다.
• 채널 클러스터 이해 에이전트(Channel Cluster Understanding Agent): 그래프 기반 관계 식별을 통해 스팸 생산자 간의 연결망과 배후 인프라를 추적합니다. 개별 채널 단위가 아닌 네트워크 클러스터 전체에 대응하는 역할을 맡습니다.

텍스트 분석 넘어 인프라·관계망으로 확장

SAFE는 단순히 개별 문서가 AI로 작성되었는지만 따지는 탐지기와 차이가 있습니다. 서치엔진저널의 로저 몬티(Roger Montti)는 SAFE가 콘텐츠의 의미적 임베딩뿐만 아니라 발행 인프라 매핑, 계정 간 연결 관계, 행동 양식을 종합적으로 분석한다는 점에 주목했습니다. 이는 앞서 구글이 강조해 온 콘텐츠 제작 노력 평가 기준과도 맞닿아 있습니다.

논문에서는 비디오 및 채널 어뷰징 관련 사례를 주로 다루고 있으나, 멀티모달 신호와 생성형 콘텐츠 전반을 아우르는 구조를 명시했습니다. SAFE는 2026년 들어 구글이 공개한 스팸 감지 체계 중 'S-CTS(Scalable Cluster Termination System)'에 이어 두 번째로 명명된 시스템입니다.

9월 스팸 업데이트와의 연계 가능성

구글은 서치 상태 대시보드(Search Status Dashboard)를 통해 2026년 9월 24일 오전 9시 15분(PDT)부터 글로벌 스팸 업데이트를 시작했다고 발표했습니다. 이번 업데이트는 전 세계 모든 언어를 대상으로 약 2주간 진행될 예정입니다. 올해 3월(19시간 30분 소요), 6월(2일 1시간 소요), 8월(2일 16시간 소요)에 이은 4번째 공식 스팸 업데이트입니다.

구글은 이번 9월 스팸 업데이트의 구체적인 타깃 정책을 공개하지 않았으며, SAFE 시스템이 해당 업데이트나 일반 웹 검색 순위에 직접 적용되었는지는 공식적으로 확인되지 않았습니다. 또한 논문에서는 초기 운영 결과 새로운 합성 위협을 식별하는 속도가 향상되었다고 밝혔으나, 구체적인 테스트 통계 수치는 공개하지 않았습니다.

이 사이트가 보는 지점

구글의 스팸 방어가 단순 텍스트 판별에서 '발행 패턴과 네트워크 클러스터 분석'으로 완전히 이동했음을 보여줍니다. 단기간 대량 발행이나 동일 인프라 기반의 크로스 퍼블리싱 등 비자연적 신호가 인용 및 색인 제외의 핵심 판단 근거로 작동하기 시작했습니다. 일반 웹 검색 순위 시스템과 챗봇 인용 풀에 이 다중 에이전트 기준이 얼마나 깊게 결합되었는지는 아직 구체적 수치로 확인되지 않았으나, 발행 속도와 출처 신뢰도 측정 방식에 중대한 기준점이 생겼습니다.