아마존이 AI 에이전트의 판단을 빠르고 저렴하게 처리하는 오픈소스 의사결정 모델 '스트랜즈 디사이더 2B'를 공개했다. 알리바바의 큐원3.5-2B를 기반으로 기존 언어생성용 LM 헤드를 제거하고 100만여개 매개변수의 포인터 헤드를 덧붙여 20억개 매개변수로 구동되며, 엔비디아 RTX 3090에서 약 115ms, 맥북(M3)에서 약 153ms의 짧은 지연시간을 보였다. 성능 평가 벤치마크 '제브벤치'에서는 26위를 기록해 1위 제브 1.13.0보다는 낮았지만, 모델 가중치와 학습 데이터·코드를 모두 공개한 점이 특징이다. 복잡한 판단은 대형 언어모델에, 단순 판단은 소형 모델에 맡겨 에이전트 운영 비용과 지연시간을 줄이는 용도로 제시됐다.
- •아마존, 오픈소스 의사결정 모델 '스트랜즈 디사이더 2B'(20억 매개변수) 공개
- •큐원3.5-2B 기반, LM 헤드 제거 후 100만여개 매개변수의 포인터 헤드 추가
- •제브벤치 기준 26위, 1위는 제브 1.13.0
- •모델 코드·학습 데이터·가중치를 모두 오픈소스로 공개
- •모델 라우팅, 도구 선택, 가드레일 등 에이전트의 저비용 판단 계층으로 활용 가능
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
아마존, 에이전트 전용 의사결정 모델 ‘스트랜즈 디사이더 2B’ 오픈 공개
- 1.아마존이 AI 에이전트 전용 의사결정 모델 '스트랜즈 디사이더 2B'를 오픈소스로 공개
- 2.알리바바 큐원3.5-2B 기반 20억 매개변수 소형 모델, LM헤드 대신 100만여개 매개변수 '포인터 헤드'를 랭크16 LoRA로 부착
- 3.RTX 3090에서 중앙값 지연시간 약 115ms, M3 맥북에서는 약 153ms로 로컬 실행 가능
- 4.모델 코드·학습데이터·스크립트·가중치를 전부 공개, 제브벤치에서는 26위(1위는 제브 1.13.0) 기록
왜 중요한가?
'제브' 공개로 촉발된 판단 전용 소형모델 트렌드에 아마존이 완전 오픈소스로 합류하며, 비용이 큰 LLM 호출 없이도 에이전트의 반복적 판단(도구 호출 여부 등)을 로컬에서 저렴하게 처리할 수 있는 선택지를 넓힌다.
본문 미리보기
AI 에이전트가 복잡한 작업을 수행할수록 매 순간 어떤 행동을 선택할지 빠르게 판단하는 능력이 중요해지고 있다. 이런 판단을 생성 AI에 맡기는 대신 별도의 소형 모델로 처리해 속도와 비용을 낮추려는 움직임이 확대되고 있다.아마존은 1일(현지시간) AI 에이전트의 판단을 빠르고 저렴하게 처리할 수 있는 오픈소스 의사결정 모델 ‘스트랜즈 디사이더 2B(Strands Decider 2B)’를 공개했다.20억개 매개변수로 구성된 소형 모델로, 문장을 생성하는 대신 정해진 선택지 가운데 하나를 고르고 해당 판단에 대한 확률을 제공하는 것이
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
이 글이 만들어진 과정
- 11:24AI 초안
