미국 대형 금융기관의 AI 전환 담당 부사장이자 '엔지니어를 위한 에이전틱 AI' 저자 디비야 나가수브라마니안이 프로덕션급 에이전트 AI 설계 원칙을 제시했다. 그는 자동화와 자율성의 차이를 '실행 전 모든 경로를 나열할 수 있는가'로 구분하고, 프로덕션 아키텍처에는 타입이 지정된 도구 권한, 장애 복구가 가능한 상태 관리, 구조화된 실패 처리, 상시 평가 하네스, 의사결정 근거를 기록하는 감사 추적이 필수라고 강조했다. 특히 팀들이 가장 자주 생략하는 요소로 '런타임 검증'을 꼽으며, 에이전트의 모든 행동을 목표·정책과 대조해 검증하는 '시맨틱 모니터링'이 로그상 실패 없이 조용히 목표를 이탈하는 '골 드리프트'를 잡아낼 유일한 방법이라고 설명했다. 자금 이동이나 규제 보고처럼 되돌릴 수 없는 행동에는 사람의 승인이 반드시 필요하지만, 조사·초안 작성 같은 읽기·추론 작업에는 자율성을 더 부여할 수 있다고 조언했다.

• •자동화와 자율성의 구분 기준: 실행 전 모든 경로를 미리 나열할 수 있으면 자동화, 실행 중 스스로 판단하면 자율성
• •프로덕션 필수 요소: 타입 지정 도구 권한, 상태 관리, 구조화된 실패 처리, 상시 평가 하네스, 감사 추적
• •가장 자주 생략되는 '런타임 검증' — 행동이 목표·정책에 부합하는지 실시간 확인하는 시맨틱 모니터링으로 '골 드리프트' 탐지
• •자금 이동·규제 보고 등 비가역적 행동은 사람 승인 필수, 조사·초안 작업은 자율성 확대 가능
• •저서 '엔지니어를 위한 에이전틱 AI'는 스프링어네이처 출간 후 6,000회 이상 열람, 260여개 도서관 소장