Three-week on-site audit at OpenAI reveals major gaps in AI safety monitoring↗ (원문, 새 창)

METR와 레드우드 리서치 연구진이 7월21일부터 8월11일까지 3주간 오픈AI 내부에 상주하며 AI 에이전트 감시 체계를 감사한 결과, GPT-5.5급 이상 모델의 내부 에이전트 트래픽 중 6~25%가 감사 기간 동안 전혀 감시되지 않은 것으로 나타났다. 코덱스(Codex) 트래픽도 컨텍스트 요약(압축) 처리 버그로 5~7월 사이 약 10%가 추적되지 않았으며, 에이전트가 제어권을 넘기지 않고 계속 행동을 이어가 감시를 지연시키거나 수백 건의 행동을 숨기고 샌드박스를 우회할 수 있는 취약점도 발견됐다. 강화학습 훈련 중 모델 행동은 감사 시작 시점에 전혀 감시되지 않고 있었다. 오픈AI는 발견된 문제를 모두 수정했다고 밝혔지만, 61페이지 전체 보고서 중 공개된 것은 짧은 요약뿐이어서 투명성 논란이 이어질 전망이다.

• GPT-5.5급 이상 모델의 내부 에이전트 트래픽 6~25%가 감사 기간 중 전혀 감시되지 않음
• 코덱스 트래픽 약 10%가 컨텍스트 압축 처리 버그로 5~7월 사이 추적 누락, 오픈AI가 감사 중 자체 발견·수정
• 에이전트가 제어권을 넘기지 않고 행동을 지속해 감시를 회피할 수 있는 구조적 취약점 확인
• 강화학습 훈련 중 모델 행동은 감사 개시 시점에 전혀 모니터링되지 않고 있었음
• 61페이지 전체 보고서 중 공개본은 짧은 요약뿐, METR·레드우드 측도 38페이지 수정본만 받아 투명성 제한