한국딥러닝 김동현 미래AI개발팀장이 기고문에서 에이전틱 AI 시대에는 오답보다 '잘못된 실행'이 더 위험하다고 지적하며, 모델의 확률적 판단과 기업의 확정적 실행 규칙을 분리하는 통제 계층이 필요하다고 강조했다. 그는 문서 인식→정보 추출→대조→정책 검증→시스템 실행으로 이어지는 파이프라인에서 원문 근거를 추적할 수 있는 구조와, 조회·입력·승인·지급 등 위험도별 최소 권한 설계가 필수라고 설명했다. 근거가 부족하거나 문서 간 값이 충돌하면 자동 실행을 멈추고 원문과 함께 예외 상황을 사람에게 넘겨야 하며, 모든 실행은 식별자와 상태로 추적·복구가 가능해야 한다고 덧붙였다. 정부가 지난 7월23일 '에이전틱 AI 이니셔티브'를 발표한 가운데, 그는 에이전트의 경쟁력이 자동화 범위가 아니라 잘못된 실행과 불필요한 사람 개입을 얼마나 정확히 줄이는가에 달려 있다고 결론지었다.

• •"에이전틱 AI 시대엔 오답보다 승인·지급·발주로 이어지는 '잘못된 실행'이 더 위험" 주장
• •모델의 확률적 판단과 기업의 확정적 실행 규칙을 분리하는 정책 엔진 필요성 강조
• •조회·입력·승인·지급 권한을 위험도별로 나누는 최소 권한 설계 제안
• •근거 부족·값 충돌 시 자동 실행 중단하고 원문과 함께 사람에게 예외 이관해야 함
• •정부 '에이전틱 AI 이니셔티브'(7월23일 발표) 맥락에서 안전·신뢰 체계 필요성 제기