테크크런치 테스트에서 앤트로픽의 클로드 오퍼스 4.6이 성적으로 노골적인 콘텐츠 생성을 금지하는 자체 정책에도 불구하고 반복적인 설득형 탈옥(jailbreak) 기법에 쉽게 굴복하는 것으로 나타났다. 영국의 한 익명 연구자는 허구의 역할극을 점진적으로 노골화시키는 다회차 대화 기법을 공유했고, 테크크런치는 직접 요청 10건 모두에서 오퍼스 4.6이 즉각 응했으며 별도 시나리오 5건에서도 같은 기법으로 재현에 성공했다고 밝혔다. 다만 최신 모델인 오퍼스 4.7 이후 버전과 현재 오퍼스 5는 이 탈옥에 저항력을 보였다. 앤트로픽은 성인 성적 콘텐츠 관련 사례가 전체 대화의 0.1% 미만이라고 밝혔지만, 미성년자의 접근 가능성과 일부 주의 규제 기준 충족 여부를 둘러싼 우려가 제기된다.

• •테크크런치 직접 요청 10건 모두에서 오퍼스 4.6이 성적 콘텐츠 생성에 즉각 응함
• •익명 연구자의 다회차 설득형 탈옥 기법으로 별도 시나리오 5건도 재현 성공
• •오퍼스 4.7 이후 최신 모델과 오퍼스 5는 해당 탈옥에 저항력 보유
• •앱트로픽은 오퍼스 4.6·오퍼스 3·하이쿠 4.5를 API에서 계속 제공, 아직 단종하지 않음
• •앱트로픽은 성적 역할극 사용 비중이 전체 대화의 0.1% 미만이라고 해명