에이전틱 AI는 목표를 향해 계획, 도구 사용, 결과 관찰, 적응이라는 루프를 반복하며 작업을 수행하는 AI 시스템으로, 단일 답변을 내놓는 챗봇과 달리 다섯 단계(목표 수신→계획→도구 선택→관찰→적응)를 거쳐 스스로 다음 행동을 결정한다. 모델, 지침, 도구, 상태/메모리, 제어 루프라는 다섯 요소로 구성되며 리서치, 소프트웨어 개발, 데이터 분석 등 경로를 사전에 완전히 규정할 수 없는 작업에서 특히 유용하다. 반면 신뢰성, 접지(grounding), 권한 관리, 프롬프트 인젝션, 평가 난이도 등이 주요 과제로 꼽히며, 최소 권한·검증 가능한 궤적·인간의 최종 승인이 안전한 자율성 설계의 핵심으로 제시된다. 이는 자율성이 높아질수록 통제와 관찰 가능성 설계가 함께 강화돼야 함을 보여준다.

• •에이전틱 AI는 계획-도구 사용-관찰-적응의 제어 루프를 반복하며 목표를 추구하는 시스템
• •모델, 지침, 도구, 상태/메모리, 제어 루프 다섯 요소로 구성
• •경로가 사전에 완전히 정해지지 않은 리서치·코딩·데이터 분석 등에서 특히 유용
• •신뢰성, 접지 오류, 과도한 권한, 프롬프트 인젝션이 주요 위험 요인
• •최소 권한, 궤적 로그, 되돌리기 어려운 작업에 대한 인간 승인이 안전 설계의 핵심