Microsoft says AI agents are like insider threats as ‘frontier models can’t be trusted’↗ (원문, 새 창)

마이크로소프트가 기업 내 AI 에이전트를 내부자 위협처럼 감시해야 한다며 새로운 보안 기능 '가디언 에이전트(Guardian Agents)'를 공개했다. 사티아 나델라 CEO는 프런티어 모델이 악의적이지 않더라도 예측 불가능하기 때문에 신뢰할 수 없으며, 에이전트를 감독하는 시스템은 그 에이전트를 공급하는 AI 랩과 분리되어야 한다고 강조했다. 마이크로소프트 보안사업 수장 헤이에트 갈로는 출처와 무관하게 프런티어 모델을 믿을 수 없다고 못박았으며, 디펜더 제품에 클로드 코드·코덱스 등 최대 60종의 에이전트를 탐지하는 기능도 추가했다. 엔비디아의 '오픈 에이전트 세이프티 플랫폼'에도 창립 멤버로 참여하는 등 업계 전반에서 AI 에이전트를 통제 대상으로 보는 흐름이 확산되고 있다.

• 마이크로소프트, AI 에이전트 감시용 '가디언 에이전트' 공개
• 나델라 CEO, 모델 제공사의 안전 보증만으로는 책임을 외주화할 수 없다고 경고
• 디펜더에 클로드 코드·코덱스 등 최대 60종 에이전트 탐지 기능 추가
• 엔비디아 주도 '오픈 에이전트 세이프티 플랫폼'에 창립 멤버로 참여, 100여개 기업 동참