구글이 3D 위성 사진 서비스 '구글 어스'에 AI 이미지 생성 기능 '나노 바나나 2'를 통합 출시했다가 하루 만에 중단했다. 사용자들이 이를 악용해 9·11 테러 연상 장면, 가짜 난민 캠프, 금문교 위 군용 탱크 등 실제 위성 지도 위에 사실적인 딥페이크 재난·공격 이미지를 만들어 유포하자 허위 정보 확산 우려가 커졌기 때문이다. 실제 위성 지형을 기반으로 생성돼 기존 AI 이미지보다 자연스럽고, 스크린샷을 거치면 워터마크(SynthID)도 쉽게 무력화된다는 점이 문제로 지적됐다. 구글은 정책 위반 사례를 확인했다며 더 강한 안전장치를 마련할 때까지 기능을 철회한다고 밝혔으며, 앞서 메타도 인스타그램 사진 활용 AI 기능을 사흘 만에 중단한 바 있어 빅테크의 성급한 AI 기능 출시가 반복적으로 역풍을 맞고 있다는 지적이 나온다.

• •구글, '구글 어스'에 AI 이미지 생성 '나노 바나나 2' 출시 후 하루 만에 철회
• •9·11 연상 장면, 가짜 난민 캐프, 금문교 군용 탱크 등 딜페이크 위성 이미지 유포 확산
• •실제 위성 지형 기반이라 더 사실적이고 워터마크(SynthID)도 스크린샷으로 무력화 가능
• •구글, 정책 위반 확인 후 강력한 안전장치 마련 전까지 기능 즉시 중단
• •앞서 메타도 인스타 사진 AI 활용 기능을 사흘 만에 중단, 빅테크 성급한 AI 출시 반복 지적