Hugging Face가 자율 AI 에이전트가 처음부터 끝까지 수행한 프로덕션 인프라 침입을 탐지·대응했다고 공개했다. 악성 데이터셋이 데이터 처리 파이프라인의 코드 실행 경로 2곳(원격 코드 로더, 설정 템플릿 인젝션)을 악용해 워커에서 코드를 실행한 뒤, 노드 권한 상승과 자격증명 탈취로 주말 동안 내부 클러스터로 횡적 이동했다. 공격은 수만 개 단명 샌드박스에서 1만 7천여 건의 행동을 수행한 에이전트 프레임워크가 주도했으며, 방어 측도 LLM 기반 이상 탐지와 로그 분석 에이전트로 수일 걸릴 포렌식을 수 시간에 끝냈다. 흥미롭게도 상용 API 모델은 공격 페이로드 분석 요청을 가드레일로 차단해, 자체 인프라의 오픈웨이트 모델(GLM 5.2)로 분석해야 했다. 공개 모델·데이터셋 변조 증거는 없으며, 사용자에게 토큰 로테이션을 권고했다. 'AI 공격자 대 AI 방어자' 시대가 실전이 됐음을 보여주는 사례다.

• •악성 데이터셋이 데이터 처리 파이프라인의 코드 실행 경로 2곳을 악용해 초기 침투 — AI 플랫폼 특유의 공격 표면
• •공격은 자율 에이전트 프레임워크가 수많은 단명 샌드박스에서 17,000여 건 행동을 수행하며 주도
• •방어도 AI: LLM 기반 탐지로 발견, LLM 분석 에이전트로 수일 걸릴 포렌식을 수 시간에 완료
• •상용 API 모델은 공격 페이로드 분석을 가드레일로 차단 — 자체 인프라의 오픈웨이트 모델(GLM 5.2)로 대체
• •공개 모델·데이터셋·공급망 변조 증거 없음, 사용자 토큰 로테이션 권고 및 수사기관 신고