앤트로픽이 AI 에이전트가 사용자를 대신해 가격을 협상하거나 불만을 해결하고 계약 조건을 개선하는 등 거래를 대리할 때 적용할 공정한 협상 규범을 마련하기 위해 로펌들과 협의하고 있다고 파이낸셜타임스가 보도했다. 앤트로픽은 실험을 통해 더 강력한 모델일수록 협상에서 더 유리한 결과를 얻는다는 점을 확인했으며, 이는 사회적 불평등을 심화시킬 수 있다는 우려로 이어진다. 회사는 법률·철학·인지과학·경제학·정치학 등 판단력이 중요한 영역에서 클로드를 테스트할 '개념적 추론 펠로'로 변호사들을 고용하고 있으며, 4개월간 10만~16만7000달러의 보수를 지급한다. 법률 분야는 정답과 오답이 명확하지 않아 품질을 정의하기 어려운 만큼, 전문가가 직접 테스트 사례와 평가 기준을 만들어야 한다는 설명이다.

• •AI 에이전트의 가격 협상·불만 해결·계약 개선 대리를 위한 공정 협상 규범을 로펌과 공동 개발 중
• •실험 결과 더 강력한 모델이 협상에서 더 유리해 사회적 불평등 심화 우려
• •'개념적 추론 펠로'로 변호사 등 전문가를 4개월간 10만~16만7000달러에 고용
• •법률·철학·인지과학·경제학·정치학 등 판단력 중심 분야의 평가 데이터 부족이 배경
• •앤트로픽 직원 저스틴 컬은 법률 분야에서 '품질 정의'가 특히 어렵다고 지적