구글 AI 오버뷰, 데이터 공백 속 허위 신원 생성 논란
연방 검찰에 기소된 인물이 구글 AI 오버뷰에서 미식축구 선수로 소개되며 논란이 일었습니다. 구글은 검색량이 적고 신뢰할 만한 정보가 부족한 '데이터 공백' 상황에서 발생한 문제라고 설명했으나, 구체적인 기술적 생성 경위는 밝히지 않았습니다.
AI 소식
기사 검색
검색인용 검색 결과 3건
챗GPT 인용 15% 불과… 공급사·비용 질문에 96% 쏠려
챗GPT의 출처 인용 여부는 산업군보다 질문 유형에 크게 좌우된다는 분석이 나왔습니다. 헨드릭스의 480개 질문 실험 결과, 챗GPT의 인용 답변 중 95.8%가 공급업체 탐색과 가격 문의에 집중됐으며 일반 정의와 설명형 질문에서는 인용이 전무했습니다.
GEO
정보 왜곡형 GEO 공격, 기존 AI 가드레일 방어율 5.7%에 그쳐
생성형 엔진 최적화(GEO) 기법을 악용해 검색 AI에 왜곡된 정보를 전달하는 공격에 대해 기존 안전 가드레일의 방어율이 최대 5.7%에 그친다는 연구 결과가 나왔다. EMNLP 2026에 채택된 '카운터 GEO 벤치' 연구에 따르면 기존 정책 기반 보안망은 자연스럽게 조작된 정보성 문서를 걸러내지 못했다.
GEO