오픈AI, 에이전트 시대 맞춰 행동 원칙 개편…"인간 의도 이해가 핵심"↗ (원문, 새 창)

오픈AI가 AI 에이전트 시대에 맞춰 '모델 스펙' 행동 지침을 개편하고 인간의 의도를 이해해 자율적으로 판단하는 능력을 핵심 가치로 제시했다. 기존 세부 규칙을 인간 의도에 대한 충실성, 피해 최소화, 정직성과 투명성, 인간 자율성 지원, 배려 등 5가지 핵심 가치로 재구성하고, 그중 인간 의도에 대한 충실성을 가장 중요하게 꼽았다. AI가 출장 예약처럼 명시적 지시가 없는 상황에서도 예산과 선호를 고려해 판단하되 승인 없는 결제나 일정 변경은 하지 않도록 하는 등 자율성과 인간 통제권의 균형을 맞추려는 목적이다. 오픈AI는 이번 지침이 아직 모든 모델에 완전히 구현되지는 않았다고 밝히며, 앤트로픽의 '헌법'과 유사하게 AI 정렬 연구의 일환으로 계속 개선할 계획이다.

• 오픈AI, '모델 스펙' 개편해 인간 의도 이해·자율판단 능력을 핵심 기준으로 제시
• 행동 지침을 인간 의도 충실성·피해 최소화·정직성·자율성 지원·배려 5대 가치로 재구성
• 인간 의도에 대한 충실성을 최우선 원칙으로 설정
• AI 에이전트의 자율적 업무 수행과 인간 통제권 유지 균형 추구
• 현재 모든 모델에 완전히 구현되지 않았으며 지속적으로 개선할 계획