미군이 AI가 오분석한 정보 보고서를 근거로 중국 선박에 무력을 행사하려다 작전 직전 철회한 사건이 CNN 보도로 드러났다. 하와이 태평양특수작전사령부 분석관이 AI로 작성한 보고서는 선박이 핵무기 부품을 운반한다고 잘못 판단했으며, 실제로는 완전히 거짓 정보였다. 국방부가 AI 가속화 전략을 추진하는 가운데 통일된 검증 기준과 인간 개입 장치 부재가 위험 요인으로 지적됐다. 자칫 미중 간 심각한 군사 충돌로 번질 뻔한 이번 사건은 군사 의사결정에서 AI 환각의 위험성을 여실히 보여준다.

• •하와이 SOCPAC 분석관이 AI로 작성한 정보보고서가 중국 선박의 핵무기 부품 운반을 오판, 무력 대응 직전 철회
• •AI가 공개출처정보(OSINT)와 비밀신호정보(SIGINT)를 결합하는 과정에서 환각을 일으켜 완전히 거짓된 결론 도출
• •국방부의 'AI 가속화 전략' 추진 속 부처별 상이한 AI 도구 사용과 통일된 검증 기준 부재가 문제로 지적
• •표적 선정 과정의 인간 개입(human-in-the-loop) 장치 미비로 오판 위험이 커지고 있다는 우려