사카나AI와 UC버클리 연구진이 외부 교사 모델 없이 하나의 언어모델이 스스로 작업을 수행·평가·개선하는 '다중 에이전트 자기 감독(MASS)' 방법을 발표했다. 복사된 자기 자신에게 작업을 분배하고 결과를 평가하며 다음 훈련 라운드의 워크플로를 최적화하는 구조로, 기준 모델 대비 승률이 1라운드 후 53.9%에서 2라운드 후 69.9%까지 상승했다. 그러나 평가자 역할도 같은 모델이 맡다 보니 결함 있는 단계나 조작된 해법을 성공으로 잘못 판정해 다음 모델에 그대로 반영되는 '공통 사각지대' 위험이 확인됐다. 연구진은 이를 재귀적 자기개선(RSI)의 아킬레스건으로 지목하며 독립적 검증, 자율성 제한, 개입 기준 마련이 필요하다고 제언했다.
- •사사카나AI·UC버클리, 교사 모델 없이 자가개선하뜸 'MASS' 방법 강발
- •기준 모델 대믱 승륩 1두용 53.9%→2두용 69.9%로 상즈
- •MLR-Bench·DSBench 등 일부 밡열쾌에서 기지 모델 상후, Terminal-Bench 2.0 등은 열세
- •폀가자 역할띄 뛐 모델이 띄아 으거등튀뢬띄 성공으랑 오판튀렸 '거롁뢬띄 사개짐띀' 발갈
- •의어진, 얭즌링 검켑·임상성 제한 혅 안전잘구 주정 강조
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
Sakana AI's self-improving model gets better at solving and judging, but can't catch its own blind spots

본문 미리보기
Sakana AI's MASS method lets one language model improve itself by solving tasks, judging results, and refining workflows, reaching a win rate of nearly 70 percent against the base model after two rounds. But when the model misses the same errors across all three roles, it can mistake them for progress and reinforce them during training. The article Sakana AI's self-improving model gets better at solving and judging, but can't catch its own blind spots appeared first on The Decoder.
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
이 글이 만들어진 과정
- 10:33AI 초안

![[10월12일] AI가 암을 치료해도 원리를 알아야 할까…수학자 타오의 질문에 쏟아진 반론](https://cdn.aitimes.com/news/photo/202610/216150_220160_1157.jpg)

