방대한 도구 생태계와 통합된 자율 에이전트 LLM에서 전통적 라우팅 휴리스틱이 컨텍스트 오염과 '과잉 사고'에 취약하다는 점을 진단하고, 인간의 인지 통제(지연 평가·인식론적 경계·근접 영역 오프로딩)를 단일 에이전트 아키텍처로 계산적 번역한 MESA-S 프레임워크를 제안한다. MESA-S는 스칼라 신뢰도를 자기 신뢰(파라메트릭 확실성)와 출처 신뢰(검색된 외부 절차에 대한 신뢰)로 분리한 벡터로 전환하고, 지연 절차 탐침(delayed procedural probe)과 Metacognitive Skill Cards를 도입해 스킬 효용 인식과 토큰 집약 실행을 분리한다. Gemini 3.1 Pro로 In-Context Static Benchmark Evaluation을 수행한 초기 결과, 신뢰 출처를 명시적으로 프로그래밍하고 에스컬레이션을 지연시키면 공급망 취약성을 완화하고 불필요한 추론 루프를 가지치기하며 오프로딩에 의한 신뢰 인플레이션을 막을 수 있음을 시사했다.
- •메타인지 기반 단일 에이전트 거버넌스 프레임워크 MESA-S 제안
- •신뢰도를 자기 신뢰·출처 신뢰로 분리하는 벡터 표현
- •지연 절차 탐침·메타인지 스킬 카드를 도입해 실행 결정 분리
- •공급망 위험·불필요 추론 루프·신뢰 인플레이션 동시 완화
- •Gemini 3.1 Pro 실험에서 신뢰 출처 프로그래밍의 유효성 시사
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
Know When to Trust the Skill: Delayed Appraisal and Epistemic Vigilance for Single-Agent LLMs
- 1.MESA-S는 단일 에이전트용 메타인지 제어 프레임워크
- 2.자기확신과 출처확신을 분리하는 벡터 신뢰 추정 방식
- 3.지연된 절차 탐색으로 스킬 유용성과 실행을 분리
- 4.Gemini 3.1 Pro 평가서 불필요한 추론 루프 억제 확인
왜 중요한가?
LLM 에이전트의 오버띵킹과 컨텍스트 오염 문제를 메타인지적 규율로 완화하는 접근을 제시합니다.
언급 프로젝트
본문 미리보기
arXiv:2604.16753v1 Announce Type: new Abstract: As large language models (LLMs) transition into autonomous agents integrated with extensive tool ecosystems, traditional routing heuristics increasingly succumb to context pollution and "overthinking". We argue that the bottleneck is not a deficit in algorithmic capability or skill diversity, but the absence of disciplined second-order metacognitive governance. In this paper, our scientific contribution focuses on the computational translation of
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
이 글이 만들어진 과정
- 11:43AI 초안
