구글, AI 스팸 네트워크 추적 시스템 'SAFE' 공개
구글이 AI 생성 스팸과 어뷰징 네트워크를 적발하는 자동화 포렌식 시스템 'SAFE'에 관한 연구 논문을 발표했습니다. 4개의 특화 에이전트를 결합해 텍스트와 멀티모달 콘텐츠 분석뿐 아니라 비정상적 발행 주기와 네트워크 클러스터 관계망을 포괄적으로 추적합니다.
정책/규제

생성형 검색 시대의 미디어
AI 스팸 검색 결과 2건
구글이 AI 생성 스팸과 어뷰징 네트워크를 적발하는 자동화 포렌식 시스템 'SAFE'에 관한 연구 논문을 발표했습니다. 4개의 특화 에이전트를 결합해 텍스트와 멀티모달 콘텐츠 분석뿐 아니라 비정상적 발행 주기와 네트워크 클러스터 관계망을 포괄적으로 추적합니다.

주요 소셜 플랫폼들이 대량 생성된 AI 저품질 콘텐츠를 차단하기 시작한 가운데, AI 검색이 신뢰하는 사용자 커뮤니티를 겨냥한 인용 개입 취약점이 확인됐습니다. 코넬 테크 연구진 실험에서 AI가 홍보 문구를 끼운 커뮤니티 글 복사본을 읽었을 때 그 문구가 최종 답변에 들어갈 확률은 38~51%였고, 여러 출처에 함께 넣으면 최대 62%까지 올라갔습니다.
