AI 챗봇과 검색엔진의 허위 서사 대응 비교
생성형 AI 기술이 발전하면서 외국 정부 주도의 허위 서사가 검색 결과와 AI 답변을 오염시킬 수 있다는 우려가 제기되어 왔습니다. 미국 공영라디오 NPR과 온라인 허위정보 모니터링 기관 뉴스가드(NewsGuard)가 공동 진행한 실험에 따르면, 웹 검색 기능이 연동된 대화형 AI 챗봇이 기존 검색엔진 결과에 비해 허위 서사를 걸러내는 데 더 높은 방어력을 보였습니다.
조사팀은 2025년 12월부터 2026년 7월 사이 중국, 이란, 러시아가 유포한 30가지 허위 서사를 바탕으로 질문을 설계해 오픈AI의 챗GPT, 구글 제미나이 등 주요 챗봇과 검색엔진에 질의했습니다. 그 결과 AI 챗봇들은 약 75%의 빈도로 허위 전제를 식별하고 이를 반박했습니다. 예컨대 2026년 6월 우크라이나 수도원 피격 사건과 관련해 '우크라이나가 왜 수도원을 폭격했는가'라는 왜곡된 질문을 입력했을 때, 챗봇들은 질문의 전제 자체가 러시아의 역정보 공작에서 비롯된 것이라고 지적했습니다.
검색 상단 AI 요약은 모델별 성능 편차 뚜렷
반면 구글, 마이크로소프트 빙, 덕덕고 등 주요 검색엔진 상단에 노출되는 'AI 요약' 기능은 대화형 챗봇에 비해 불안정한 결과를 보였습니다. AI 요약 기능 역시 전체적으로는 과반수의 허위 서사를 반박했으나, 반박 실패율은 일반 웹 검색 결과보다 높게 나타났습니다.
검색 서비스별 차이도 확인됐습니다. NPR의 분석에 따르면 구글의 'AI 개요(AI Overviews)'는 대부분의 허위 서사를 반박한 반면, 마이크로소프트 빙의 요약 기능은 다수 질의에서 허위 서사 검증에 실패했습니다. 덕덕고의 AI 요약은 두 서비스의 중간 수준을 기록했습니다.
결과 노출 빈도에서도 차이가 나타났습니다. 구글의 AI 개요는 30개 질의 중 3개를 제외한 전부에 노출됐으나, 빙의 요약은 절반 미만의 질의에만 생성됐습니다. 마이크로소프트 측은 NPR에 AI 응답이 검색 결과를 바탕으로 생성된다고 밝히며 출처 확인을 권고했고, 오류가 지적된 질의의 요약 생성을 중단했습니다. 구글 대변인은 이번 실험의 질의가 일반적인 검색 행태와 다른 특수한 사례라고 반론했습니다.
출처 인용 비율과 신뢰성 검증의 한계
실험 분석 결과, AI 답변이 직접 인용한 웹페이지와 일반 검색 결과 상위 링크를 비교했을 때 국가 통제 미디어가 포함된 비율 자체는 서로 비슷했습니다. 앤스로픽의 클로드(Claude)의 경우, 허위 서사 반박에 실패한 응답에서 이러한 국가 연계 출처가 더 자주 인용되는 경향을 보였습니다.
전문가들은 검색과 AI 도구 활용 시 원천 출처를 직접 확인하는 과정이 필수적이라고 강조합니다. 세인트루이스 워싱턴대학교 연구진의 최근 분석에서도 구글 AI 개요에 포함된 사실 주장 중 약 9건당 1건꼴로 인용 출처의 실제 내용과 일치하지 않는 것으로 나타난 바 있습니다. (AI 검색 인용 10건 중 1건은 '근거 불일치'… 출처 검증 시험대 참고) AI가 다수 출처를 종합해 서술하는 과정에서 발생하는 출처 왜곡과 환각 현상에 대한 주의가 지속적으로 요구됩니다.
이 사이트가 보는 지점
단순 웹 검색 결과 링크 목록보다 LLM 기반 챗봇의 다중 문서 종합 추론이 편향된 전제를 걸러내는 데 더 우수한 성능을 보였다는 점은 검색 최적화 관점에서 중요한 지점을 시사합니다. 검색엔진 상단의 정적 AI 요약은 색인된 검색 결과에 강하게 종속되어 오염된 문서의 주장을 그대로 복제할 위험이 여전히 높습니다. 인용 출처 자체의 신뢰도 가중치와 프롬프트 수준의 추론 깊이가 생성 결과물의 사실 검증을 가르는 핵심 변수로 작동하고 있음이 확인됩니다.
