이 논문은 AI 시스템의 의도성을 의식이 아닌 목적·예견·의지·시간적 헌신·일관성의 다섯 가지 관찰 가능한 행동 특성으로 정의하고, 이 의도성이 메모리 지속성·계획 깊이·도구 자율성 등 설계적 선택에 의해 결정된다고 주장합니다. 의도성이 설계에 따라 결정된다면 원칙적으로 제어 가능하므로, 이를 측정하기 위한 기능적 의도성 테스트(FIT)와 평가 프로토콜(FIT-Eval)을 제안합니다. FIT는 에이전트 시스템에서 비례적 감독과 의도적 자율성 조정을 가능하게 합니다.
- •AI 의도성을 의식이 아닌 목적·예견·의지·시간적 헌신·일관성의 행동 프로파일로 정의
- •메모리 지속성·계획 깊이·도구 자율성 등 아키텍처 선택이 의도적 행동 정도를 결정함
- •5개 관찰 차원에서 의도적 행동을 정량화하는 기능적 의도성 테스트(FIT) 프레임워크 제안
- •FIT가 에이전트 시스템의 비례적 감독 및 자율성 조정을 위한 해석 가능한 수준 제공
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
Intentionality is a Design Decision: Measuring Functional Intentionality for Accountable AI Systems
- 1.AI 시스템의 의도성을 의식이 아닌 행동 프로파일(목적·예측·의지·시간 헌신·일관성)로 정의하는 FIT 프레임워크
- 2.의도성은 메모리 지속성·계획 깊이·도구 자율성 등 설계 결정에 의해 결정되므로 측정·제어 가능
- 3.FIT-Eval 평가 프로토콜로 AI 시스템의 자율성 수준을 정량화해 비례적 거버넌스 감독 가능
왜 중요한가?
점점 자율화되는 AI 에이전트의 책임성 평가를 위한 측정 가능한 프레임워크를 제공하여 AI 거버넌스 및 규제 정책 수립에 실질적 도구가 된다.
본문 미리보기
arXiv:2605.05475v1 Announce Type: new Abstract: As AI systems increasingly exhibit autonomous, goal-directed, and long-horizon behavior, users lack a standardized way to detect the degree to which a system functions like an intentional actor for governance and accountability purposes. This position paper defines intentionality not as consciousness, but as a behavioral profile characterized by purpose, foresight, volition, temporal commitment, and coherence - criteria long used in legal and phil
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
이 글이 만들어진 과정
- 13:10AI 초안
