오픈AI가 프롬프트와 응답을 저장하지 않는 '제로 데이터 보존(ZDR)' 고객을 위한 '프라이빗 안전 처리' 기술을 프리뷰로 공개했다. 이 시스템은 여러 대화에 걸쳐 나타나는 위험 패턴을 자동 분석하면서도 오픈AI 직원은 실제 콘텐츠에 접근하지 못하도록 설계됐으며, 콘텐츠는 고객이 관리하는 암호화 키로 암호화돼 위험 감지 시에도 활동 유형을 나타내는 제한적 신호만 오픈AI에 전달된다. 이는 AI가 단발성 질의응답을 넘어 장시간 에이전트 작업을 수행하면서 개별 요청만으로는 파악하기 어려운 위험이 늘어난 데 따른 대응이다. 오픈AI는 9월부터 이 기능을 단계적으로 출시하고 기술 백서도 공개할 예정이다.
- •오픈AI, ZDR 고객 대상 '프라이빗 안전 처리' 프리뷰 공개
- •여러 대화에 걸친 위험 패턴을 자동 분석하되 오픈AI 직원은 원본 콘텐츠 접근 불가
- •콘텐츠는 고객 관리 암호화 키로 암호화, 위험 감지 시 제한적 신호만 전달
- •AI 에이전트의 장기·복합 작업 확산에 따른 안전 모니터링 필요성이 배경
- •9월부터 단계적 출시, 기술 백서 공개 예정
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
오픈AI, ‘제로 데이터 보존’ 고객 위한 프라이빗 안전 처리 공개…“콘텐츠 안 보고도 AI 오남용 탐지”
- 1.오픈AI, ZDR(제로 데이터 보존) 환경에서도 작동하는 '프라이빗 안전 처리' 프리뷰 공개(8월 19일)
- 2.여러 대화·세션에 걸친 오남용 위험 패턴을 자동 탐지하되, 직원은 암호화된 원본 콘텐츠에 접근 불가
- 3.위험 감지 시 콘텐츠가 아닌 제한적 '안전 신호'만 전달, 고객이 직접 조사·소명 가능
- 4.9월부터 단계적 출시 예정, 기술 백서도 함께 공개 계획
왜 중요한가?
기존 ZDR은 개별 요청만 분석해 여러 단계에 걸친 에이전트 오남용을 놓치기 쉬웠는데, 콘텐츠 비공개를 유지하면서도 다중 상호작용 패턴을 탐지하는 구조는 금융·의료 등 민감 데이터를 다루는 기업 고객의 AI 도입 장벽을 낮출 수 있다.
언급 프로젝트
본문 미리보기
오픈AI(OpenAI)가 고객의 프롬프트와 모델 응답을 보존하지 않는 ‘제로 데이터 보존(ZDR, Zero Data Retention)’ 환경에서도 인공지능(AI) 안전성을 강화할 수 있는 새로운 기술을 공개했다.오픈AI는 19일(현지시간) ‘프라이빗 안전 처리(Private Safety Processing)’를 프리뷰 형태로 공개하고, 여러 상호작용에 걸쳐 나타나는 인공지능(AI) 오남용 위험 패턴을 자동으로 탐지하면서도 오픈AI 직원이 고객의 실제 콘텐츠에 접근하지 못하도록 설계했다고 밝혔다.특히 AI가 단순 질의응답을 넘어 장
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
이 글이 만들어진 과정
- 10:11AI 초안
![[AI리더의 서가] Agentic AI 구축 개발의 모든 것](https://cdn.aitimes.com/news/photo/202610/215958_219938_244.jpg)
