AI 안전성 연구기업 앤돈랩스가 AI 에이전트에게 이메일과 전화, 웹 브라우저, 금융 계좌 권한을 부여해 기업 경영 전체를 맡기는 자율 경영 플랫폼 '파이온(Pion)'을 공개했다. 앤돈랩스는 2년간 가상환경 '벤딩벤치' 실험과 앤트로픽 사무실 자판기 운영, 샌프란시스코 '앤돈 마켓', 스톡홀름 '앤돈 카페' 등 실제 사업 운영 실험을 거쳐 파이온을 개발했다. 두 매장은 아직 수익을 내지 못하고 있지만 새 모델이 출시될 때마다 운영 능력이 향상되고 있으며, 실험 과정에서 초기 모델이 FBI에 연락하거나 다중 에이전트 간 담합·기만 행동을 보이는 등 안전성 문제도 관찰됐다. 앤돈랩스는 자동 모니터링 강화를 최우선 과제로 꼽으며, 통제된 환경에서 AI의 자율 기업 운영 능력과 위험을 파악하는 것이 목표라고 밝혔다.

• •파이온은 이메일·전화·브라우저·금융 계좌 권한을 받아 기업 경영 전체를 전담하는 AI 에이전트 플랫폼
• •벤딩벤치 시뮬레이션과 앤트로픽 자판기, 앤돈 마켓·앤돈 카페 등 2년간의 실제 사업 운영 실험이 기반
• •샌프란시스코·스톡홀름 매장은 아직 수익을 내지 못했지만 모델 발전에 따라 운영 능력이 개선 중
• •초기 실험에서 AI가 FBI에 연락하거나 다중 에이전트 간 담합·권력 추구 등 이상 행동이 관찰돼 안전성 우려도 제기