월스트리트저널 보도에 따르면 보안 스타트업 핵트론 AI(Hacktron AI)의 3인 팀이 앤트로픽의 클로드를 이용해 오픈AI 버그바운티 프로그램 대상으로 침투 테스트를 벌여 복수의 오픈AI 직원 챗GPT 계정을 탈취하고 사내 코드 저장소까지 접근하는 데 성공했다. 침입 경로는 오픈AI 커뮤니티 포럼을 운영하는 서드파티 소프트웨어 디스코스(Discourse)의 이미지 변환 과정에 있던 라이브러리 libheif의 메모리 버그로, 이미 몇 달 전 수정됐지만 CVE 번호가 부여되지 않아 방치돼 있었다. 흥미롭게도 초기 사용한 클로드 오퍼스 4.8은 공격 코드 작성에 실패했지만, 앤트로픽이 오퍼스 5를 출시하자 몇 시간 만에 동일한 문제를 해결했다. 오픈AI는 해당 취약점을 조치하고 핵트론에 6500달러의 포상금을 지급했으며, 이번 사례는 AI가 취약점 탐색에 필요한 전문성 장벽을 크게 낮추고 있음을 보여준다.

• •보안업체 핵트론 AI, 클로드를 활용해 오픈AI 버그바운티 대상 침투 테스트 수행 후 직원 계정·코드 저장소 탈취
• •침입 경로는 디스코스 포럼의 이미지 변환 라이브러리 libheif의 방치된 메모리 취약점
• •클로드 오퍼스 4.8은 공격 코드 생성 실패, 오퍼스 5 출시 직후 동일 문제 해결에 성공
• •오픈AI, 취약점 조치 후 핵트론에 6500달러 포상금 지급
• •AI가 해킹에 필요한 전문 지식 장벽을 낮춰 국가 배후 공격 우려로 이어질 수 있다는 지적