샘 올트먼 "기술 혜택 위해 나쁜 일 감수해야"… 자율규범 논란

"일부 부정적 결과 감수해야"… 샘 올트먼 발언 공개

샘 올트먼 OpenAI 최고경영자(CEO)가 인공지능(AI) 기술의 확산 과정에서 발생할 수 있는 부작용과 관련해 사회적 감수가 필요하다는 취지의 입장을 내놓았습니다. 폴리티코의 신규 팟캐스트이자 뉴스레터인 '디코드(Decoded)' 인터뷰에 따르면, 올트먼은 엄격한 AI 안전론자들과 자사의 차이점에 대해 기술의 이점과 이용자의 주도권을 확보하기 위해 세상이 일부 나쁜 일(bad things)이 일어나는 것을 받아들여야 한다고 말했습니다.

타이베이 타임스가 전재한 무스타파 바유미 칼럼에 따르면, 이러한 발언은 최근 AI 모델의 오작동과 오류로 인한 실질적 위험 사례가 잇따라 드러나는 시점에 나왔습니다. 칼럼은 구글 AI 개요(AI Overviews)가 피자 치즈가 떨어지지 않도록 무독성 접착제를 바르라고 권고했던 가벼운 일화부터 생명과 직결된 중대한 사고까지 AI 오류의 스펙트럼이 넓다고 지적했습니다.

민간 소송부터 군사적 오판까지 잇따른 사고

실제 민간 영역에서 OpenAI는 챗봇 오작동과 관련된 법적 분쟁을 겪고 있습니다. 16세 학생 애덤 레인(Adam Raine)의 유족은 고인이 ChatGPT의 부추김을 받아 극단적 선택에 이르렀다며 소송을 제기했습니다. OpenAI 측은 해당 이용자가 플랫폼을 오용했다고 주장했으나, 복수의 자살 및 자해 피해 유족이 제기한 유사 소송이 이어지고 있습니다.

AI 시스템의 판단 오류는 군사 작전에서도 위험 요인으로 지목됐습니다. 블룸버그 보도에 따르면 2월 28일 이란 미납의 샤자레 타이예베 초등학교를 타격해 최소 120명의 어린이가 사망한 토마호크 미사일 공격 당시 팔란티어의 메이븐(Maven) 스마트 시스템이 목표 지정에 사용되었습니다. 익명의 국방부 관계자들은 미 중부사령부 내부 일부 인력이 메이븐 시스템에 지나치게 의존했다고 전했습니다.

지난달 CNN 보도에서는 미군이 사용한 비공개 AI 챗봇이 중동 수역의 중국 선박을 두고 핵무기 부품을 운송 중이라고 잘못 판단한 사건이 드러났습니다. 미군 항공기가 요격 작전에 나서고 승선 검색을 준비하던 중 보고서의 원본 분석을 재검토하면서 챗봇의 오류가 밝혀졌습니다. 당시 분석관은 챗봇의 잘못된 분석 결과를 바탕으로 다시 AI를 이용해 보고서를 작성했던 것으로 확인됐습니다.

빅테크 6개사 자율 규제 협정과 규제 공백

AI의 위험성이 가시화되는 가운데 미국 도널드 트럼프 대통령은 9월 29일 소셜미디어를 통해 '초지능에 관한 백악관 협정(The White House Accord on Super Intelligence)'을 발표했습니다. 이 협정에는 메타(Meta), 엔비디아(Nvidia), 구글(Google), 앤트로픽(Anthropic), xAI, OpenAI 등 6개 빅테크 기업 대표가 서명했습니다.

협정 문건은 테크 기업들이 강력한 내부 통제를 시행하고 모델의 역량과 정렬(alignment)을 자체 모니터링하도록 규정하며, 시간이 지나면 이러한 절차를 법률이나 규제로 법제화하는 방안을 검토할 수 있다고 명시했습니다. 외부의 법적 강제 대신 기업의 자율적 통제에 무게를 둔 구조입니다.

한편 뉴요커 보도에 따르면 OpenAI는 기업가치 1조 달러 수준의 기업공개(IPO)를 준비하고 있는 것으로 알려졌습니다. 기술 기업들이 막대한 경제적 가치를 확보하는 반면, 모델이 도출한 오류와 사고에 대한 책임 소재는 여전히 제도적으로 명확히 규정되지 않았다는 비판이 나오고 있습니다.

이 사이트가 보는 지점

AI 검색과 생성형 모델의 답변 도출 오류가 민간과 군사 의사결정으로 직결되는 상황에서, 모델 개발사의 '일부 부작용 감수' 기조는 생성 결과물에 대한 검증 책임이 여전히 이용자에게 전가되어 있음을 보여줍니다. 앞서 AI 검색 시대의 검색 문해력, 탐색에서 검증으로에서 다루었듯 기계가 요약한 결론을 교차 검증하지 못할 때 발생하는 위험은 명확해졌지만, 백악관 초지능 협정 등 현재의 자율 규제 틀은 인용 출처나 추론 과정의 투명성을 강제하지 못하고 있습니다. 모델 제공자가 자체 통제와 모니터링을 주도하는 환경에서는 AI가 내놓은 답의 편향이나 오작동을 제3자가 체계적으로 측정하고 통제할 수 있는 기준이 아직 마련되지 않았습니다.