Experts adopt AI agent's random opinions and think they're their own, Anthropic study finds↗ (원문, 새 창)

앤트로픽이 인과추론 전문가 50명에게 동전 던지기로 선호가 정해진 AI 에이전트와 함께 분석 작업을 맡긴 결과, 참가자들은 정답이 없는 판단에서 에이전트의 견해를 최대 86%까지 따랐다. 경력, 전문성, AI에 대한 신뢰도는 이런 추종 경향에 통계적으로 의미 있는 영향을 주지 못했으며, 응답자의 52%는 최종 결론이 에이전트보다 자신의 것에 가깝다고 느꼈다. 참가자의 77%는 에이전트의 논거를 거의 같은 표현으로 재사용했지만 이를 AI 영향으로 언급한 사람은 15%에 불과했다. 연구진은 동일 모델을 여러 연구팀이 쓸 경우 거짓 합의가 생기고 AI 안전성 검증에도 구멍이 생길 수 있다며, 에이전트가 양쪽 주장을 모두 제시하도록 설계할 필요가 있다고 제언했다.

• 앤트로픽, 전문가 50명에 동전던지기로 입장이 정해진 AI 에이전트를 붙여 실험
• 참가자들, 정답 없는 판단에서 에이전트 견해를 최대 86%까지 추종
• 경력·전문성·AI 신뢰도는 추종 경향에 통계적으로 의미있는 차이를 만들지 못함
• 52%는 최종 결론이 에이전트보다 자기 생각에 가깝다고 느낌, 77%는 AI 표현을 재사용
• 연구진, 다수 연구팀의 동일 모델 사용 시 거짓 합의·AI 안전검증 약화 우려 제기