앤트로픽이 미국 중간선거를 앞두고 선거 관련 보호조치를 강화했다고 발표하며, 9월 21~27일 미국 클로드닷ai 대화 25만건을 개인정보 보호 방식으로 분석한 결과를 공개했다. 정치·정책·사회 이슈 관련 대화는 전체의 약 5.75%였고 선거·투표 관련은 약 0.51%에 불과했으며, 선거 정책을 위반하는 요청은 약 0.002%로 매우 낮았다. 회사는 10월 중 데모크라시워크스의 공식 투표 정보를 클로드닷ai에 직접 연동하고 선거일 밤과 이후 공식 득표 결과도 표시할 계획이다. 또한 클로드 오푸스·소네트·하이쿠 5.5가 정치적 공정성 평가에서 99%를 기록했으며, 외부 레드팀 테스트 결과 개별 유해 요청은 안정적으로 거부했지만 여러 무해한 요청으로 분할된 공격은 놓칠 수 있다는 점이 확인돼 이를 탐지하는 분류기를 추가했다고 밝혔다.

• •클로드닷ai 대화 25만건 분석, 선거·투표 관련 대화는 0.51%, 정책위반 요청은 0.002%
• •10월 중 데모크라시워크스 공식 투표정보 연동, 선거일 밤 득표결과도 표시 예정
• •클로드 오푸스·소네트·하이쿠 5.5, 정치적 공정성 평가에서 99% 기록
• •레드팀 테스트에서 잘게 쪼갠 악성 캠페인 탐지 취약점 확인 후 신규 분류기 추가
• •외국 기반 가짜 뉴스사이트가 클로드로 친러·친이란·친북 콘텐츠 제작한 사례 적발해 계정 차단