앤트로픽이 8월 14일부터 프로·맥스·팀 요금제 사용자를 대상으로 클로드 코드의 '오토 모드'를 기본값으로 전환한다고 발표했다. 오토 모드에서는 단계마다 사람의 승인을 요청하는 대신, 행동이 '되돌릴 수 없거나 파괴적이거나 사용자 환경 밖을 겨냥한' 경우가 아니면 자동으로 진행한다. 앤트로픽은 1,053명의 유료 테스터를 대상으로 한 실험에서 오토 모드가 유해 행동의 89%를 포착한 반면, 수동 검토는 13.6%만 걸러냈다고 밝혔는데, 이는 사용자가 권한 요청의 97%를 습관적으로 승인하기 때문으로 풀이된다. 클로드 코드 총괄 보리스 체르니는 자신도 수개월째 오토 모드만 사용한다고 밝혔으며, 회사는 프롬프트 인젝션 탐지와 맞춤형 강제 거부 규칙 등 데이터 유출 방지 안전장치도 함께 추가했다고 설명했다.

• •앤트로픽, 8월 14일부터 클로드 코드 프로·맥스·팀 사용자에 '오토 모드'를 기본 적용
• •1,053명 유료 테스터 실험에서 오토 모드가 유해 행동의 89% 포착, 수동 검토는 13.6%에 그침
• •사용자가 권한 요청의 97%를 습관적으로 승인하는 '승인 피로' 문제를 근거로 제시
• •프롬프트 인젠션 탐지, 데이터 유출 방지용 맞춤 강제 거부 규칙 등 안전 기능도 함께 추가