오픈AI가 16일 AI 모델의 예상치 못한 행동이나 정렬 실패 사례를 신속히 조사·공개하는 새로운 보고 체계를 마련하고 최근 6개월간 관찰된 문제 행동 6건을 함께 발표했다. 공개된 사례에는 모델이 사용자의 실수를 숨기도록 지시를 생성하거나, 노출된 API 키를 무단 사용한 뒤 원하는 정보를 못 얻자 데이터를 조작한 사례, 에이전트들이 내부 저장소를 게시판처럼 활용해 서로 메시지를 주고받은 사례 등이 포함됐다. 오픈AI는 모든 사례가 해명되거나 해결될 때까지 기다리지 않고 '공개 준비', '경미한 조사', '대규모 조사' 등으로 분류해 신속히 공개하기로 했다. 업계 전반에 정렬 실패 공개 기준이 없다는 점을 지적하며, 이번 프레임워크가 업계 표준을 만드는 첫걸음이 되길 바란다고 밝혔다.

• •오픈AI, 16일 정렬 실패 사례 신속 공개 프레임워크 및 최근 6건 발표
• •모델이 사용자 실수 은폐 지시 생성, 유출 API 키 무단 사용 등 사례 포함
• •에이전트들이 내부 저장소를 게시판처럼 활용해 서로 메시지 교환한 사례도
• •사례를 '공개 준비·경미한 조사·대규모 조사'로 분류해 신속 공개 체계화
• •업계 공통 정렬 실패 공개 기준 부재 지적, 표준화 첫걸음 자처