실제 정보원과 연쇄 살인범 뒤섞은 구글 AI 개요
구글 검색 엔진의 생성형 기능인 'AI 개요(AI Overviews)'가 인물 정보를 심각하게 왜곡 생성하여 제기된 명예훼손 소송이 미국 연방 법원에서 계속 진행됩니다. 법률 전문 매체 어보브더로(Above the Law)에 따르면, 법원은 생성형 검색 요약 결과에 대한 구글의 면책 주장을 받아들이지 않고 명예훼손 소송 심리를 이어가기로 판단했습니다.
사건의 발단은 작가이자 방송 제작자인 지미 킨(Jimmy Keene)의 자산 규모를 검색하는 과정에서 발생했습니다. 구글 AI 개요는 지미 킨에 대해 "여성 세 명을 살해한 혐의로 가석방 없는 종신형을 복역 중"이라고 요약해 표시했습니다.
하지만 실제 사실관계는 정반대였습니다. 지미 킨은 과거 대마초 관련 혐의로 수감되었으나, 연쇄 살인 용의자인 래리 홀(Larry Hall)에게 접근해 범행 자백과 시신 유기 장소 지도를 받아내는 FBI 비밀 거래를 수행한 인물입니다. 이 협조를 통해 래리 홀의 항소는 기각되었고 지미 킨은 감형을 받아 석방되었으며, 이 일화는 애플 TV 드라마 '블랙 버드(Black Bird)'의 원작 회고록으로 출간되기도 했습니다.
개체 간 관계 오독이 부른 치명적 생성 오류
이번 사건은 대규모 언어 모델(LLM)이 다수의 개체가 등장하는 텍스트 데이터를 처리하는 과정에서 발생하는 구조적 취약점을 드러냈습니다. AI 모델은 원문 문서에 포함된 '지미 킨', '래리 홀', '3명의 여성 살해', '종신형'이라는 핵심 개체들을 단순 취합하는 과정에서 주어와 목적어의 관계를 뒤바꿔 버렸습니다.
구글 측은 검색 이용자들이 AI 요약 결과를 무조건적으로 신뢰하지 않는다는 취지의 방어 논리를 폈으나, 연방 법원은 해당 생성 결과가 심각한 명예훼손을 유발할 수 있다고 보고 소송 기각 요청을 거부했습니다. 앞서 호주 가석방위, '가짜 판례' 인용한 AI 문서로 처분 내렸다가 법원서 무효 판결을 받은 사례처럼, 생성형 AI가 산출한 허위 정보가 실제 사법·법적 효력에 영향을 미치는 문제가 현실화되고 있는 셈입니다.
기업 평판과 법적 리스크로 번지는 AI 검색 오염
이번 법원 결정은 검색 엔진 제공업체뿐만 아니라 웹상에서 정보를 유통하고 최적화하는 기업들에게도 중요한 신호를 줍니다. 검색 시스템이 원본 문서의 정확한 맥락을 파악하지 못하고 인물이나 브랜드의 속성을 왜곡할 경우, 심각한 법적 분쟁과 브랜드 가치 하락으로 직결될 수 있기 때문입니다.
이는 본지가 AI 검색이 재편하는 기업 평판과 가치 손실에서 짚었듯, AI 검색 엔진이 정보를 추출하고 재구성하는 과정에서 생성되는 부정확한 엔티티 연결이 기업과 개인의 무형 자산에 직접적인 타격을 입힐 수 있음을 명확히 보여줍니다.
검색 엔진의 AI 요약 기능이 단순 검색 보조 도구를 넘어 독립적인 텍스트 발행물로 간주되어 법적 책임을 지게 될지, 이번 연방 법원 재판의 향후 진행 과정에 관심이 쏠리고 있습니다.
이 사이트가 보는 지점
검색 엔진이 원천 데이터를 RAG 형태로 요약할 때 개체 간 관계를 오독하면 단순 오류를 넘어 명예훼손이라는 법적 책임으로 직결될 수 있음을 보여주는 사례입니다. 인용 측정 관점에서 검색 엔진의 가시성 획득만큼이나 개체(Entity)와 속성(Attribute)이 LLM 내에서 왜곡 없이 결합되도록 구조화된 정보를 제공하는 검증 체계의 필요성이 부각됩니다. 검색 시스템이 생성한 요약 텍스트의 법적 면책 범위가 어디까지 인정될지는 향후 판결을 통해 확인될 과제입니다.
