AWS 기술 블로그가 NVIDIA의 오픈소스 에이전트 프레임워크 'NeMo 에이전트 툴킷(NAT)'에 아마존 S3 벡터(S3 Vectors)를 영속 메모리 계층으로 연동해 아마존 EKS에 배포하는 방법을 소개했다. S3 벡터는 인덱스당 최대 20억 개 벡터를 저장하고 삽입 즉시 조회가 가능한 강한 쓰기 일관성을 제공해 멀티 에이전트 간 메모리 공유에 적합하다는 설명이다. 글은 MemoryEditor 인터페이스를 구현한 커스텀 메모리 제공자 코드와, 아마존 타이탄 텍스트 임베딩 V2로 벡터를 생성해 사용자·팀·티커 단위로 메타데이터 필터링하는 구조를 함께 제시한다. 투자 리서치용 다중 에이전트 사례에서 리서치·분석·종합 에이전트가 동일 인덱스를 공유하며 에피소드 메모리를 주기적으로 의미 메모리로 통합하는 방법도 다룬다. 메모리를 적용하면 근거 기반 응답 품질이 높아지고 중복 작업과 토큰 사용이 줄어드는 대신 지연시간은 소폭 늘어날 수 있다고 전망한다.
- •AWS가 NVIDIA NeMo 에이전트 툴킷(NAT)에 아마존 S3 벡터를 영속 메모리 계층으로 연동하는 구현법을 공개했다.
- •S3 벡터는 인덱스당 최대 20억 벡터, 삽입 즉시 조회 가능한 강한 쓰기 일관성을 제공한다.
- •MemoryEditor 인터페이스 기반 커스텀 플러그인과 아마존 타이탄 임베딩 V2를 이용한 구현 코드를 제시했다.
- •투자 리서치용 다중 에이전트가 동일 S3 벡터 인덱스를 공유하며 메타데이터로 필터링해 협업한다.
- •메모리 도입 시 근거 기반 응답과 중복 작업 감소가 기대되지만 지연시간은 소폭 증가할 수 있다.
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
Build agent memory with NVIDIA NeMo Agent Toolkit and Amazon S3 Vectors
- 1.NVIDIA NeMo Agent Toolkit(NAT)에 Amazon S3 Vectors를 커스텀 메모리 프로바이더로 구현
- 2.Titan Text Embeddings V2로 임베딩 생성, 메타데이터 필터링으로 에이전트·팀별 메모리 공유·격리
- 3.auto_memory_agent 래퍼로 LLM이 메모리 툴을 직접 호출하지 않아도 자동 저장·검색 수행
- 4.Amazon EKS에 IRSA 기반 IAM으로 배포, 에피소드 메모리를 주기적으로 의미 메모리로 통합
왜 중요한가?
Mem0·Redis·Zep 등 기존 메모리 백엔드로는 수십억 벡터 규모 확장과 강한 쓰기 일관성을 동시에 만족하기 어려웠던 다중 에이전트 시스템에, S3 Vectors를 커스텀 플러그인으로 연결하는 구체적 구현 패턴을 제시한다.
본문 미리보기
Learn how to use Amazon S3 Vectors as the persistent memory layer within the NVIDIA NeMo Agent Toolkit (NAT), deployed on Amazon Elastic Kubernetes Service (Amazon EKS). This post shows how NAT's memory subsystem works and how to implement Amazon S3 Vectors as a custom memory provider, using a multi-agent investment research use case.
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
이 글이 만들어진 과정
- 11:02AI 초안
