PhishGen: Understanding LLM Capabilities in Automated Phishing Website Generation↗ (원문, 새 창)

연구팀은 LLM이 생성한 피싱 웹페이지의 시각적 완성도와 실제 작동 여부를 평가하는 프레임워크 PhishGen을 제시했다. 14개의 상업·오픈소스·무검열 LLM으로 7가지 프롬프트 조합과 12가지 안전장치 우회 전략을 활용해 페이지를 생성하고, 자동화 지표·크라우드소싱 사용자 평가·실행 기반 기능 테스트로 64개 실제 피싱 키트와 비교했다. 안전장치 우회 출력의 96.2%가 렌더링됐지만 체감 완성도는 5점 중 2.02점에 그쳤고, 전체 자격증명 수집 파이프라인을 완성한 비율은 38.7%에 불과했다. 무검열 모델이 가장 위협적이라는 통념과 달리 GPT 4.1이 86.3~94.1%의 기능 성공률을 보인 반면 무검열 모델은 45.4%를 넘지 못했으며, 일부 강력한 LLM은 완성도 측면에서 실제 피싱 키트 수준(70.9~89.7%)을 넘어섰다.

• LLM 생성 피싱 페이지의 시각적 완성도와 실제 작동 여부를 함꾘 평가하는 PhishGen 프레임워크 제시
• 안전장치 우회 출력의 96.2%가 렌더링되었으나 전진 기능 완성률은 38.7%에 그켨
• 무검열 모델이 가장 위협적이다는 통념과 다르게 GPT 4.1이 86.3~94.1%로 가장 높은 기능 성공률 기림
• 일부 LLM은 완성도에서 실제 피싱 키트(70.9~89.7%)를 늘가해 확장 가능한 저진입장박 위험을 시사