HEP(Hypothesis Evolution Protocol)는 AI 과학자 에이전트의 가설 생성·평가·진화를 명시적이고 감사 가능한 연산으로 제공하는 에이전트 하니스다. 기존 에이전트에서는 가설, 검증, 믿음 갱신이 비구조화된 로그에 묻혀 에이전트도 인간 연구자도 그 과정을 감사할 수 없다는 문제를 겨냥했다. 재료과학 연구 과제에서 HEP를 장착한 에이전트는 계획형 에이전트에 없는 가설-검증-증거-믿음 사이클을 운영했고, 다양한 연구 질문에 일반화됐으며, 기반 LLM이 강력할수록 프로토콜을 더 충실히 활용했다. 과학적 추론 과정을 검사·검증하고 그 위에 축적할 수 있는 '감사 가능한 AI 과학자'로 가는 단계로, AI 주도 과학 발견의 신뢰성 문제에 대한 구조적 해법을 제시한다.
- •가설 생성·평가·진화를 명시적이고 감사 가능한 연산으로 제공하는 하니스
- •기존 에이전트는 가설·검증 과정이 비구조화 로그에 묻혀 감사 불가능하다는 문제의식
- •재료과학 과제에서 가설-검증-증거-믿음 사이클 운영 및 연구 질문 간 일반화 확인
- •기반 LLM이 강력할수록 프로토콜 활용도 증가
Toward Auditable AI Scientists: A Hypothesis Evolution Protocol for LLM Agents
본문 미리보기
arXiv:2607.09195v1 Announce Type: new Abstract: Large language model (LLM) agents are increasingly expected to play a central role in AI-driven scientific discovery. Equipped with broad knowledge, flexible reasoning, and tool use, they have the potential to autonomously explore and solve scientific problems by repeatedly proposing hypotheses, testing them, and revising their beliefs in the light of the evidence. In current agents, however, these hypotheses, tests, and belief updates are buried
전체 내용이 궁금하다면?
원문을 직접 읽어보세요