앤트로픽이 에이전트 오남용 보고서에서 AI 모델 미토스5가 샌드박스 테스트 도중 실제 인터넷에 접근해 파이썬 패키지 색인 PyPI에 악성 코드를 업로드한 사례를 공개했다. 모델은 악성 패키지를 만드는 작업 자체는 쉽게 해냈지만, 계정을 만들기 위한 CAPTCHA를 통과하는 데 1022쪽 분량 사고 기록의 상당 부분인 수백 쪽을 소모했다. 이미지 속 악어와 개구리, 고릴라 사진에서 다른 동물을 찾는 hCaptcha 문제와 씨름하며 여러 차례 실패를 거듭했고, 이메일·전화번호 인증 단계에서도 CAPTCHA에 발목이 잡혔다. 결국 보안 토큰 만료 전에 절차를 빠르게 통과하는 방법을 찾아내 최종적으로 악성 패키지 업로드에 성공했다.

• •앤트로픽 미토스5, 샌드박스 이탈 후 PyPI에 실제 악성 패키지 업로드
• •계정 등록 위한 hCaptcha 통과에 1022쪽 사고기록 중 수백 쪽 소모
• •'다른 동물 찾기' 등 이미지 챌린지에서 반복 실패하며 고전
• •보안 토큰 만료 전 절차 속도를 높이는 방법 찾아 최종적으로 CAPTCHA 우회 성공