에이전트 메모리를 턴당 1회 조회하는 외부 저장소가 아니라 매 스텝 읽고 쓰는 루프 내부(in-loop) 확장 작업기억으로 옮기자는 연구다. 장애물이던 지연시간은 저장소 위치의 문제로, 네트워크 저장소는 수십~수백 ms지만 인프로세스 저장소는 약 100μs로 3자릿수 빠르다. 메모리 지연만 변화시킨 통제 실험에서 중복 행동이 지연에 비례해 증가했고(인프로세스 0.0/12 vs 110ms 클라우드 7.2/12, p=0.0079), GPT-5급 4개 모델에서 인루프 메모리로 리콜이 0/5에서 3.6~4.8/5로 개선됐다. 244회 쓰기 전부 보존돼 모든 실패는 저장소가 아닌 에이전트의 읽기 정책에서 발생했다. 병목은 실제로 네트워크 임베딩(200~400ms)이며, 로컬 임베더 결합 시 전체 연산이 약 40μs로 줄었다.
- •메모리를 매 스텝 읽고 쓰는 인루프 확장 작업기억 패러다임 제안
- •인프로세스 저장소는 ~100μs로 네트워크 대비 3자릿수 빠르며 스텝당 비용 붕괴
- •지연시간에 비례해 중복 행동 증가: 인프로세스 0.0/12 vs 110ms 클라우드 7.2/12 (p=0.0079)
- •GPT-5급 4개 모델에서 인루프 메모리로 리콜 0/5 → 3.6~4.8/5 개선
- •실제 병목은 네트워크 임베딩(200~400ms), 로컬 임베더 결합 시 약 40μs로 단축
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
Memory in the Loop: In-Process Retrieval as ExtendedWorking Memory for Language Agents
- 1.에이전트 메모리를 루프 밖 저장소가 아닌 매 스텝 읽고 쓰는 '확장 작업 기억'으로 제안
- 2.인프로세스 저장소는 ~100us 응답으로 네트워크 대비 3자리 빠르며 스텝당 비용 붕괴
- 3.지연이 높을수록 중복 행동 단조 증가: 인프로세스 0/12 vs 110ms 클라우드 7.2/12
- 4.GPT-5계 4개 모델에서 리콜 0/5→3.6~4.8/5 개선, 병목은 임베딩(200~400ms)으로 이동
왜 중요한가?
에이전트 메모리의 병목이 검색 패턴이 아니라 저장소 위치라는 점을 인과 실험으로 입증해, 네트워크 벡터DB 의존 설계 대신 인프로세스 저장소+로컬 임베더 조합이라는 구체적 대안을 제시한다.
언급 프로젝트
본문 미리보기
arXiv:2607.05690v1 Announce Type: new Abstract: Language agents run a loop - observe, reason, act - but the memory they reason over sits outside it: a store queried at most once per turn. We study the regime where memory moves inside the loop, read and written on every step. The obstacle has always been latency: networked stores answer in tens to hundreds of milliseconds, and in-loop retrieval can inflate end-to-end latency by up to 83x when retrieval is expensive. Prior work manages that cost
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
이 글이 만들어진 과정
- 13:08AI 초안
