미 국방부 청사 [AP=연합뉴스]

미군이 인공지능(AI)이 생성한 허위 정보를 바탕으로 중국 선박을 겨냥한 군사 작전을 감행하기 직전, 오류를 확인하고 이를 전격 중지한 사실이 확인됐다.

미국 언론 보도에 따르면 올해 봄 이란 관련 군사적 긴장이 고조되던 시기, 중동 해역을 항해하던 중국 선박에 핵무기 프로그램 관련 물품이 적재되어 있다는 내용의 미군 내부 정보 보고서가 공유됐다.

당시 미군은 해당 선박의 이동을 차단하기 위해 즉각적인 대응에 나섰다. 무장한 미 특수부대원들이 선박 강습 및 승선 작전을 점검했으며, 지원을 위한 군용기까지 현장에 출격하는 등 긴박한 상황이 이어졌다.

하지만 작전 개시 바로 전, 당국자들이 해당 정보의 정확성을 재검토하는 과정에서 중대한 문제점이 포착됐다. 문제의 보고서는 태평양 특수작전사령부 소속 분석관이 AI 챗봇을 활용해 작성한 것으로 드러났다.

해당 분석관은 중국 선박의 화물 명세에 대해 챗봇에 검색 및 분석을 요청했다. 질문을 받은 챗봇은 공개된 자료와 미국 정부가 수집한 기밀 신호 정보를 합성해 분석하는 과정에서, 일반 화물을 핵무기 개발용 물자라고 전혀 다르게 판단했다. 분석관은 이 인공지능의 분석 결과를 별도의 철저한 검증 없이 군 표준 정보 보고서 형태로 가공해 상부에 배포했다.

정보 당국 관계자는 이 보고서의 내용이 완전한 허구였으며, 실제 작전이 감행되었다면 미중 양국 간의 직접적인 무력 충돌로 이어질 뻔했다고 당시의 위험성을 증언했다.

이 사건은 미 국방부가 업무 효율화를 위해 AI 시스템을 적극 도입하는 과정에서 발생한 대표적 부작용으로 지목된다. 미 국방 수뇌부는 올해 초 'AI 가속화 전략'을 수립하고, 정보 분석은 물론 표적 식별과 같은 핵심 군사 영역까지 AI 적용 범위를 급격히 늘려왔다.

문제는 신기술 도입 속도에 비해 이를 관리하고 검증할 제도적 장치가 턱없이 부족하다는 점이다. 현재 미 정부 및 군 내부 부서들은 제각기 다른 AI 프로그램과 안전 구성을 적용하고 있으며, AI가 도출한 데이터의 진위 여부를 판별할 표준화된 검증 절차가 부재한 실정이다.

특히 공격 목표 설정 과정에서도 AI 의존도가 높아지고 있으나, 민간인 피해를 방지하거나 오인 사격을 막기 위한 구체적이고 실질적인 가이드라인은 마련되지 않았다. 내부 전문가들은 AI 기술이 분석관들에게 빠른 정보 생산을 강요하는 환경을 조성하면서, 결과적으로 잘못된 결론에 도달하는 시간만 단축시키고 있다고 경고했다.