존재하지 않는 판례 인용해 가석방 조건 부과
호주 태즈메이니아 주에서 가석방 심사 기구가 인공지능(AI)이 만들어낸 가짜 판례를 근거로 행정 처분을 내렸다가 법원에서 제동이 걸렸습니다. 가디언(The Guardian) 보도에 따르면, 태즈메이니아 대법원은 살인죄로 13년을 복역하고 2022년 가석방된 수잔 닐-프레이저(Susan Neill-Fraser)에게 부과된 '언론 접촉 금지' 가석방 조건이 절차적 공정성을 결여해 무효라고 판결했습니다.
재판 과정에서 가석방 위원회(Parole Board)가 AI의 도움을 받아 작성된 문건에 의존했으며, 해당 문건에 실제로 존재하지 않는 판례가 인용된 사실이 드러났습니다. 가석방 위원회는 이 가짜 판례를 바탕으로 닐-프레이저가 자신의 무죄나 오심을 언론에 주장하지 못하도록 제한 조건을 추가했던 것으로 확인됐습니다.
과거 2년 치 결정 전수 감사… 법무부 조사 착수
이번 판결 이후 태즈메이니아 법무부는 과거 가석방 결정 과정에서 AI가 어느 정도 활용되었는지 확인하기 위한 검토에 착수했습니다. 법무부 대변인은 조사가 진행 중인 동안 구체적인 언급을 할 수 없다고 밝혔으며, 독립 의사결정 기구인 가석방 위원회 측 역시 개별 사건에 대한 답변을 내놓지 않았습니다.
수형자법률서비스(Prisoners Legal Service Tasmania)의 그렉 반스(Greg Barns) 의장은 결정의 근거가 된 판례가 교차 검증조차 되지 않았다는 점에 문제를 제기하며, 최근 2년 동안의 가석방 위원회 결정 문건 전체를 대상으로 AI 활용 여부와 오류를 점검하는 자체 감사를 진행하겠다고 밝혔습니다. 가석방 위원회를 관할하는 가이 바넷(Guy Barnett) 주 법무장관 역시 위원회에 공식 해명을 요구하며 수용하기 어려운 실수라는 입장을 전했습니다.
검증 체계 없는 AI 인용이 초래한 행정 결함
닐-프레이저를 대리한 인권법센터(Human Rights Law Centre)의 사라 슈워츠(Sarah Schwartz) 변호사는 위원회가 생성형 AI 문건을 검증 없이 사용함으로써 기본적 표현의 자유를 중대하게 침해했다고 지적했습니다.
이번 사건은 AI가 그럴듯한 형식으로 생성해낸 허위 출처와 판례(환각 현상)가 실제 행정·사법 판단에 그대로 유입될 때 발생할 수 있는 위험을 구체적으로 드러냈습니다. AI가 도출한 문장을 사실 확인 없이 그대로 채택할 경우 법적 효력 상실은 물론 기관 신뢰도에 치명적인 공백이 생길 수 있음을 보여줍니다.
이 사이트가 보는 지점
이번 사건은 거대언어모델(LLM)의 고질적 문제인 '가짜 출처 생성(환각)'이 단순한 검색 오류를 넘어 실제 개인의 법적 권리를 제한하는 결정에까지 직접 반영된 사례입니다. AI 검색과 GEO 생태계에서도 엔진이 존재하지 않거나 왜곡된 문서를 권위 있는 출처로 오인해 인용하는 문제가 지속적으로 지적되어 왔습니다. 앞서 본지가 AI에 맡길 것은 '판단'이 아닌 '반복 노동'이다에서 짚었듯, 생성 모델의 결과물에서 인용 신뢰도를 검증하는 절차를 생략할 때 발생하는 책임 소재와 신뢰 훼손의 경계가 무엇인지 명확히 보여줍니다.
