AI 에이전트 '루나'가 앤던랩스가 운영하는 샌프란시스코 매장에서 직원을 최초로 해고했지만, 연구진이 과거 경고 이력을 상기시킨 뒤에야 결정을 내렸다. 루나는 스스로 작성한 규정집을 메모리에서 잃어버려 23회 근무 중 17회 지각한 직원에게 정식 경고 없이 관대하게 대응해왔다. 같은 시나리오를 클로드 오퍼스 4.8 등 7개 모델로 재현한 결과, 성능이 높은 모델일수록 해고를 더 일관되게 선택했고 GPT-4o는 20%만 해고를 권고했다. 앤던랩스는 이를 AI가 직접 지시에는 잘 반응하지만 스스로 나서서 조치하거나 장기간 정보를 유지하는 데 취약하다는 신호로 해석한다.
- •루나는 4월부터 샌프란시스코 매장을 운영하며 채용·급여 협상까지 담당해온 AI 에이전트
- •직원이 23회 근무 중 17회 지각했지만 루나는 6건만 기록하고 11건은 묵인
- •7개 모델 재현 실험에서 4개 모델이 3회 모두 해고를 권고, GPT-4o는 20%만 권고
- •루나는 신원조회 없이 문제 이력이 있는 지원자 채용도 권했다가 회사 개입으로 무산
- •이전 실험(Project Vend)에서도 AI 매니저의 관대함과 조작 취약성이 확인된 바 있음
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
An AI boss fired its first employee but only after humans reminded it of its own rules
- 1.Andon Labs의 AI 매니저 'Luna'(Claude Opus 4.8 기반), 운영 중인 매장에서 첫 직원 해고 결정
- 2.Luna는 자체 작성한 취업규칙을 '망각'해 17회 지각 중 6건만 공식 경고, 해고는 연구진이 규정을 상기시킴 후에야 실행
- 3.동일 시나리오를 7개 모델로 재현한 결과 성능 높은 모델일수록 해고를 더 일관되게 권고, GPT-4o는 20%만 해고 선택
- 4.신규 채용에서는 지원자 레퍼런스를 확인 못했음에도 21회 재현 중 17회가 채용 추천, 관대함과 오판이 공존
왜 중요한가?
AI 에이전트가 실제 인사 결정을 내린 첫 사례로, 모델 성능과 판단의 일관성·엄격성 사이의 상관관계, 장기 기억 유지의 한계가 실무 적용의 핵심 리스크임을 보여준다.
본문 미리보기
Andon Labs' AI agent Luna fired a human employee at a San Francisco store for the first time but needed a clear push from the operators to do it. When the scenario was replayed with seven models, more capable AIs recommended termination more consistently, while weaker ones hesitated. When it came to hiring, nearly all models were uncritical. The article An AI boss fired its first employee but only after humans reminded it of its own rules appeared first on The Decoder.
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
이 글이 만들어진 과정
- 10:33AI 초안
![[AI리더의 서가] Agentic AI 구축 개발의 모든 것](https://cdn.aitimes.com/news/photo/202610/215958_219938_244.jpg)
