적응형 에이전트가 겉으로는 안정돼 보여도 그 안정을 유지하는 데 드는 내부 조절 비용이 이력(history)에 따라 달라진다는 것을 보인 시뮬레이션 연구다. 불확실성 조절 계산 모델에서 에이전트의 불확실성 목표를 연속적으로 바꿨다가 리셋 없이 되돌리는 실험을 통해, 같은 목표라도 도달 경로에 따라 필요한 적응 게인이 달라지는 재현 가능한 히스테리시스 루프를 확인했다. 또한 교란 노출 전에 안정화가 가능하면 사후 회복만 가능한 경우보다 적은 조절 비용으로 비슷한 수준의 조절 상태에 도달했다. 저자는 에이전트를 행동의 안정성만이 아니라 그 안정을 유지하는 데 동원되는 조절량으로도 평가해야 한다고 제안한다. 노이즈·지연·변동 수요 환경에서 운영되는 AI 에이전트의 숨은 제어 부담을 드러내는 평가 관점을 제시한다.
- •같은 상태처럼 보여도 유지에 필요한 내부 조절 비용은 다를 수 있다는 '숨은 규제 부담' 개념 제시
- •불확실성 목표를 올렸다 되돌리는 실험에서 적응 게인의 재현 가능한 히스테리시스 루프 확인
- •교란 전 선제 안정화가 사후 회복보다 낮은 제어 비용으로 유사한 조절 상태 달성
- •에이전트 평가 시 조직화 유지 여부뿐 아니라 동원되는 조절량도 봐야 한다고 제안
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
When Regulation Has Memory: Hysteresis and Control Burden in Artificial Agency
- 1.적응 에이전트가 안정되어 보여도 내부 조절 부담은 늘 수 있음을 계산 모델로 분석
- 2.불확실성 목표를 연속적으로 변화시키고 되돌리는 실험으로 이력 의존성(carryover) 검증
- 3.조절에 필요한 적응 이득이 재현 가능한 히스테리시스 루프를 형성해 경로 의존성 확인
- 4.교란 노출 전 안정화가 가능하면 사후 복구보다 더 적은 적응 이득으로 동등 행동 달성
왜 중요한가?
에이전트를 '무엇을 하는가'로만 평가하던 관행에 대해, 같은 상태를 유지하는 데 드는 내부 제어 부담이 이력과 타이밍에 따라 달라진다는 점을 보인다. 노이즈·지연·변화하는 요구 하에서 작동하는 인공 에이전트의 숨은 조절 비용을 평가 지표로 삼아야 함을 시사한다.
본문 미리보기
arXiv:2606.30975v1 Announce Type: new Abstract: Adaptive agents are usually judged by what they do, but an agent can appear stable while the internal effort required to keep it stable is increasing. This hidden regulatory burden matters for artificial agents operating under noise, delay, or changing demands: two systems may reach similar internal states while one requires much more corrective control to get there. Here, we study whether that burden depends on history. Using a computational mo
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
이 글이 만들어진 과정
- 13:08AI 초안

