Adaptive agentic intelligence framework using Strands Agents↗ (원문, 새 창)

AWS는 경량 소형언어모델(SLM)로 일상적 요청을 로컬에서 처리하고 복잡한 요청만 클라우드 모델로 라우팅하는 '적응형 에이전틱 인텔리전스 프레임워크(AAIF)'를 Strands Agents로 구현하는 방법을 소개했다. 1B 파라미터의 llama3.2:1b를 오케스트레이터로 사용해 디바이스 텔레메트리 조회, 카메라 영상 분석(llama3.2-vision) 등은 로컬에서, 복잡한 패턴 분석과 전략 추천은 Amazon Bedrock의 프런티어 모델로 보내는 3계층 구조를 적용했으며, 하드코딩된 규칙 없이 모델이 요청을 분류해 라우팅한다. 이 하이브리드 구성에서는 전체 트래픽의 약 80%가 유료 API를 거치지 않아 비용 절감이 가능하며, 완전 클라우드형이나 완전 에어갭형(로컬 3B 모델) 등 배포 환경에 맞춰 구성을 바꿀 수 있다. 프로덕션 도입 시에는 Amazon Bedrock Guardrails를 적용해 클라우드 추론 경로의 프롬프트 인젝션과 유해 콘텐츠를 차단할 것을 권장했다.

• 1B 파럼피티 llama3.2:1b 오케스트될이턴거가 요구륨 분류해 똄컴·클랈우똄똄똄 자륨 똄우팅
• 똄똄이스 효똄메트륨·코똄똄똄 분석은 똄컴 SLM(Ollama), 똄똄 현석은 Amazon Bedrock 프똄현현 모댄 처똄
• 현이비똄똄 구성 시 전전 트륨픽의 약 80%가 유똄 API 미경유똄 비용 절감
• 똄즈비파이(8GB)똄퓰 완전 클랈우똄, 완전 에어갭(똄컴 3B 모댄)까지 배현 현기밸 구성 가똄
• 현똄똄똄 배현 시 Amazon Bedrock Guardrails똄 현똄트 인똄똄현·유현 콘텸취 똄똄 권장