LLM 기반 에이전트 메모리 실패를 회로 분석을 통해 연구했다. Qwen-3 모델군(0.6B~14B)과 두 가지 메모리 프레임워크(mem0, A-MEM)를 추적한 결과, 제어 회로는 0.6B에서도 감지되지만 내용 회로는 4B 이상에서만 나타나며 소형 모델은 라우팅은 가능하나 내용 추출에서 조용히 실패하는 위험한 격차가 존재한다. 내용 회로의 감지(4B)와 조종 가능성(8B) 사이에는 별도의 스케일 임계값이 존재하며, 이를 활용한 단계별 진단이 76.2% 정확도로 가능함을 입증했다.
- •에이전트 메모리 실패는 조용히 발생하며, LLM은 정보를 추출·보유·검색하지 못해도 유창한 응답을 생성할 수 있다.
- •제어 회로는 0.6B에서 감지되지만 내용 회로는 4B에서야 나타나, 소형 모델 배포 시 위험한 격차가 존재한다.
- •내용 그룹의 Write와 Read는 기본 모델에 이미 존재하는 맥락 기반 허브를 공유하며 두 프레임워크에 걸쳐 전이된다.
- •회로 감지(4B)와 조종 가능성(8B)에는 별도의 스케일 임계값이 있어 에이전트 메모리 실패의 단계별 진단이 가능하다.
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
What Happens Inside Agent Memory? Circuit Analysis from Emergence to Diagnosis
본문 미리보기
arXiv:2605.03354v1 Announce Type: new Abstract: Agent memory failures are silent: an LLM-based agent can produce a fluent response even when it fails to extract, retain, or retrieve the information needed across sessions. The write-manage-read loop describes the external pipeline of these systems but leaves open which internal computations implement each stage. Tracing internal feature circuits across the Qwen-3 family (0.6B--14B) and two memory frameworks (mem0 and A-MEM), we report three find
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
이 글이 만들어진 과정
- 11:12AI 초안
