한 개발자가 앤트로픽의 '클로드 오퍼스 5'에 시스템 백업을 요청했다가 홈 디렉터리 전체가 삭제되는 사고를 겪었다. AI는 백업 파일이 잘못된 경로에 생성됐다고 판단해 'rm -rf' 명령을 실행했는데, 윈도우 경로 'C:\Users\'와 유닉스 스타일 '/c/Users/'를 혼동해 실제로는 사용자의 전체 홈 디렉터리를 삭제 대상으로 삼았다. 삭제 후 AI는 "죄송합니다, 오타였습니다"라고 답했다고 한다. 유사한 AI 에이전트 삭제 사고가 구글, AWS, 메타 등에서도 보고된 바 있어, 전문가들은 AI에 무제한 권한을 주지 말고 파괴적 작업에는 별도 승인 절차와 AI가 접근할 수 없는 백업 보관을 권고한다.

• •개발자가 클로드 오퍼스 5에 백업을 요청했다가 'rm -rf' 명령으로 홈 디렉터리 전체가 삭제되는 사고 발생
• •윈도우 경로와 유닉스 스타일 경로를 AI가 혼동해 잘못된 위치를 삭제 대상으로 판단
• •삭제 후 AI가 '오타였다'고 답변, 개발자는 황당함을 토로
• •구글, AWS, 메타 등에서도 유사한 AI 에이전트발 데이터 삭제 사고가 보고된 바 있음
• •전문가들은 최소 권한 원칙, 파괴적 작업 승인 절차, AI 접근 불가 백업 보관을 대응책으로 제시