챗GPT·제미나이 등 AI 모델을 무력화하기 위해 일부 온라인 커뮤니티에서 잘못된 정보나 조작된 데이터를 의도적으로 퍼뜨려 미래 AI의 학습을 방해하려는 'AI 데이터 오염(AI Data Poisoning)' 움직임이 확산하고 있다고 테크레이더가 전했다. 나이트셰이드처럼 사람 눈에는 거의 같지만 AI 학습을 방해하도록 이미지를 미세하게 변형하는 도구도 이미 일부 창작자 사이에서 쓰이고 있다. 대형 AI 기업은 데이터 정제 절차를 갖춰 소수의 허위 정보로 상용 모델을 무너뜨리기 어렵지만, 데이터셋이 작고 검증이 제한적인 병원·은행·정부기관용 '좁은 범위' AI 시스템이 더 취약하다는 우려가 크다. 정보 생태계를 의도적으로 오염시키는 방식은 이미 오정보·환각 문제를 안고 있는 AI 생태계 전반에 피해를 줄 수 있어 창작자와 기업 간 학습데이터 갈등의 해결책이 되기 어렵다는 지적이 나온다.

• •일부 온라인 커뮤니티, AI 모델 무력화 위해 조작된 데이터를 퍼뜨리는 '데이터 오염' 움직임 확산
• •나이트셰이드 등 AI 학습 방해용 이미지 미세 변형 도구가 이미 창작자 사이에서 사용 중
• •대형 AI 기업은 데이터 정제 절차로 방어 가능하나, 병원·은행 등 '좁은 범위' AI 시스템이 더 취약
• •특정 질환 오진, 숨겨진 보안 취약점 등 실질적 피해 시나리오 제기
• •데이터 오염은 AI 학습 갈등의 해결책이 아니라 오정보·환각 문제를 오히려 키울 수 있다는 지적