구글이 7월 30일 출시한 구글 어스의 AI 이미지 생성 기능을 하루 만에 전면 롤백했다. 나노 바나나 2 모델로 위성·항공 사진 위에 사실적 이미지를 생성하는 기능이었으나, 이용자들이 국경 난민, 이란 핵시설 화재, 병원 옆 폭탄 구덩이 등 정책 위반 이미지를 만들어 스크린샷으로 유포하면서 논란이 커졌다. 이미지에 워터마크(SynthID)가 있었지만 스크린샷 과정에서 출처 표시가 사라져 실효성이 없다는 지적이 나온다. 구글은 프롬프트 단계 유해 콘텐츠 차단 등 가드레일을 강화한 뒤 기능을 재출시하겠다고 밝혔다.

• •구글 어스의 AI 이미지 생성 기능이 출시 하루 만인 7월 31일 롤백됨
• •나노 바나나 2 모델이 위성사진 기반 사실적 이미지를 생성, 워터마크(SynthID)는 스크린샷 시 소실
• •이용자들이 난민, 핵시설 화재, 폭탄 피해 등 정책 위반 이미지를 생성해 유포
• •벨링캣 등 오픈소스 조사기관은 구글 어스의 신뢰성 손상을 우려
• •구글은 프롬프트 차단 등 가드레일 강화 후 재출시 계획, EU AI 라벨링 규제도 변수