AI 시스템의 출력은 그것이 묘사하는 사실이나 세계 상태 자체가 아니라 공학적으로 만들어진 '표상'이라는 관점에서, 그 표상의 정당성을 검사하기 위한 의미론적 프레임워크를 제안한 논문이다. 공인된 도메인 지식이 정당화하는 것, 참조 소스가 말하는 것, 시스템이 현재 사용할 수 있는 것을 구분함으로써 외삽, 반박되거나 근거 없는 단언, 소스-지식 불일치, 낡거나 반박된 소스, 임의 가설 추가, 근거 없는 사용 같은 흔한 실패 유형에 정밀한 정의를 부여한다. 출력·인용·툴 호출·세계를 바꾸는 행동이 유창함이 아닌 신뢰할 수 있는 주장과 명시적 권한으로 정당화돼야 하는 AI 시스템을 명세하고 검증하는 공통 어휘를 제공하려는 시도다.
- •AI 출력을 사실이 아닌 공학적 표상으로 보는 의미론적 프레임워크 제안
- •도메인 지식·참조 소스·시스템 가용 정보의 3중 구분이 핵심 구조
- •외삽, 근거 없는 단언, 소스-지식 불일치, 낡은 소스 등 실패 유형을 정밀 정의
- •인용·툴 호출·행동의 정당화 요건을 명세하는 공통 어휘 제공이 목표
Ceci n'est pas une pipe: AI systems as semantic abstractions
본문 미리보기
arXiv:2607.09489v1 Announce Type: new Abstract: An AI system's output is not the fact or world state it appears to describe, but rather an engineered representation. We propose a semantic framework to describe AI systems, to be able to examine the correctness of such representations. To do so, we distinguish what is justified by accepted domain knowledge, what reference sources say, and what the system can currently use. This allows us to give precise definitions to common failures: extrapolati
전체 내용이 궁금하다면?
원문을 직접 읽어보세요