AI가 전쟁에 투입되는 상황에서 '인간 감독(humans in the loop)' 방어는 환상이라는 비판. AI는 이미 타깃 실시간 생성, 미사일 요격 제어, 자율 드론 떼 지휘에 활용되고 있으며 앤트로픽과 펜타곤 법적 공방의 중심에도 있다. 필자는 펜타곤 가이드라인이 '인간이 AI 내부 동작을 이해한다'는 잘못된 전제 위에 서 있다고 지적한다. AI가 블랙박스인 상태에서 인간 감독은 사실상 맹목 운용이며, 진짜 위험은 자율성이 아닌 감독자의 이해 부재다.

• •AI가 전쟁에서 타깃 생성·미사일 요격·드론 떼 지휘까지 수행
• •앤트로픽 vs 펜타곤 법적 공방이 AI 전쟁 사용 논쟁의 중심
• •'인간 감독' 가이드라인은 AI 이해 가능성 전제에 기반 — 실제론 불가
• •블랙박스 AI 감독은 맹목 운용에 가까움
• •진짜 위험: 자율성이 아닌 인간 감독자의 이해 부재