앤트로픽이 최첨단 모델 안전성을 검증할 첫 '내부 상주형 평가 기관'으로 액센추어를 선정했다. 액센추어는 2026년 1월 인수한 AI 전문기업 패컬티 인력을 앤트로픽 사내에 파견해 모델 훈련 과정과 정렬·안전장치를 상시 검증하며, 양사는 향후 5년간 AI 안전 역량에 각각 최소 10억달러를 투자하기로 했다. 이는 다리오 아모데이 CEO가 제시한 개발 속도 조절안의 첫 단계이지만, 제프리 힌튼과 스튜어트 러셀 등 100여명의 전문가는 공개서한을 통해 평가기관이 AI 기업과 상업적 관계나 금전적 대가를 받아서는 안 된다며 독립성 우려를 제기했다.
- •앤트로픽, 최첨단 모델 안전성 검증할 첫 '내부 상주형 평가 기관'으로 액센추어 선정
- •액센추어 자회사 패컸티 인력이 사내 파견돼 모델 훈련·정렬·안전장치를 직원 수준 권한으로 상시 검증
- •양사, 향후 5년간 AI 안전 역량에 각각 최소 10억달러 투자 합의
- •제프리 힌턴 등 100여명 전문가, 평가기관의 상업적 관계·금전적 대가 문제로 독립성 우려 제기
- •METR 등 비영리 평가기관도 재정적 독립성 논란 지속
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
앤트로픽, AI 안전 평가 기관으로 액센추어 선정…독립성 논란 확대

- 1.앤트로픽, 최첨단 모델 안전성 검증할 첫 '내부 상주형 평가 기관'으로 컨설팅기업 액센추어 선정
- 2.액센추어는 인수한 AI기업 패컬티 인력을 앤트로픽 사내 파견, 직원급 접근권으로 훈련·안전장치 상시 검증
- 3.양사는 향후 5년간 각각 최소 10억달러씩 AI 안전 역량에 투자하기로 합의
- 4.힌튼·러셀 등 전문가 100명 이상, 평가기관은 AI기업과 상업적 관계·금전적 대가 없어야 한다는 공개서한 발표
왜 중요한가?
아모데이 CEO의 개발 속도 조절안 1단계 실행이지만, 영리 컨설팅사가 자금을 지원받으며 평가를 맡는 구조가 METR 사례처럼 독립성 논란으로 이어질 수 있어 AI 안전 평가 체계의 신뢰성 확보 과제를 재조명한다.
본문 미리보기
앤트로픽이 최첨단 모델의 안전성을 검증할 첫 번째 '내부 상주형(임베디드) 평가 기관'으로 기술 컨설팅 기업 액센추어를 선정했다. 이번 조치는 다리오 아모데이 앤트로픽 CEO가 제시한 AI 개발 속도 조절안을 실행하기 위한 첫 단계이지만, 평가 자금의 직접 지급 방식과 평가 기구의 객관성을 둘러싼 우려는 여전하다.앤트로픽과 액센추어는 18일(현지시간) 독립 평가 체계 구축을 위한 파트너십을 체결했다고 발표했다. 액센추어는 2026년 1월 인수한 AI 전문 기업 패컬티(Faculty)의 인력을 앤트로픽 사내에 파견한다. 평가단은 모델
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
이 글이 만들어진 과정
- 11:24AI 초안

![[10월12일] AI가 암을 치료해도 원리를 알아야 할까…수학자 타오의 질문에 쏟아진 반론](https://cdn.aitimes.com/news/photo/202610/216150_220160_1157.jpg)

