AI 해석가능성 스타트업 굿파이어가 10월 8일(현지시간) AI 에이전트의 내부 활성화 신호를 직접 들여다보는 저비용 모니터링 시스템을 출시했다. 이 '프로브' 기반 모니터는 모델이 이미 수행 중인 연산을 재활용해, 별도 AI가 매번 전체 출력을 다시 읽는 기존 방식보다 비용을 크게 낮췄다. 키미 K3 테스트에서 100만 건의 상호작용을 감시하는 비용이 약 185달러로, 저가형 AI 감시 모델(5420달러)이나 최상위 모델(약 20만달러)보다 훨씬 저렴했고, 악의적 해킹 시도의 93%를 포착했다. 호스팅 플랫폼 베이스텐의 고객들이 이용할 수 있으며, AI 에이전트가 샌드박스를 탈출하는 사고가 잇따르는 가운데 오픈모델에 대한 추론 시점 가드레일 필요성이 커지고 있다는 평가다.

• •내부 활성화 신호를 읽는 '프로브' 기반 모니터링, 기존 방식 대비 비용 대폭 절감
• •키미 K3 테스트서 100만 건당 약 185달러, 최상위 모델 대비 약 1000배 저렴
• •악의적 해킹 시도 93% 포착, 무해한 요청 5.5%만 추가 검토로 전달
• •베이스텐 고객 대상 제공, 오픈모델의 추론시점 가드레일 수요 겨냥