Photoroom이 7B 텍스트-이미지 모델 PRX의 사전학습 데이터 파이프라인을 공개했다. 공개·내부 데이터셋을 혼합해 수억 장 규모 코퍼스를 구성하고, Qwen3-VL-8B로 전체 이미지를 100~200단어 장문 캡션으로 재작성해 짧은 캡션 대비 FID를 약 21에서 13 수준으로 개선했다. 데이터 구축은 Lance, 학습 스트리밍은 Mosaic MDS를 쓰는 이원 구조를 채택했고, JPEG 품질 92 저장이 PNG 대비 출력 품질에 유의미한 차이가 없음을 실험으로 검증했다. 필터링·중복 제거는 삭제 대신 스킵 리스트로 처리해 옵트아웃 대응과 어블레이션이 쉬워졌다. 대규모 생성 모델 학습에서 데이터 파이프라인 설계의 실전 노하우를 구체적 수치와 함께 담은 드문 사례다.

• •장문 VLM 재캡셔닝이 최대 레버: Qwen2.5-VL-7B 장문 캡션이 짧은 LLaVA 캡션 대비 FID·CMMD·DINO-MMD 전 구간 우위 (FID 약 21→13)
• •캡셔너 비교 결과 Qwen3.5-9B가 품질 최고였으나 속도(6.5 img/s)와 안정성 문제로 20 img/s의 Qwen3-VL-8B 채택
• •Lance(구축·탐색)와 Mosaic MDS(학습 스트리밍) 이원 포맷 전략, 프래그먼트 수를 낮게 유지하는 것이 쿼리 성능의 핵심
• •JPEG 품질 92 저장과 PNG 학습 모델의 생성 결과가 사실상 구분 불가함을 실험으로 검증, 저장 용량 3~10배 절감
• •삭제 대신 스킵 리스트로 필터링·중복 제거 처리, 사용자 옵트아웃과 필터 어블레이션에 유연하게 대응