'Pakistan Notice Helper'는 파키스탄 사용자가 은행·택배·세무·통신사를 사칭한 의심 메시지에 링크 클릭, OTP 공유, 송금을 하기 전에 위험을 분류해 주는 소형 AI 안전 도구다. 진위 판정기가 아니라 트리아지 도구로, 텍스트나 스크린샷을 받아 위험 등급·간단한 설명·눈에 띄는 경고 신호·안전한 다음 단계를 제시하고 영어와 우르두어(RTL 레이아웃 포함)를 지원한다. 개발자는 Qwen3.6 27B(품질 95/100)로 시작했으나 배포 비용·콜드스타트 문제로 Qwen3.5 4B Q8(80/100)을 최종 채택했고, llama.cpp·Modal·Gradio 스택으로 구성했다. 사고 모드 비활성화, 가짜 URL 생성 금지 같은 출력 계약 수정 후 10개 평가에서 100점 만점을 기록했다. 작고 명확히 범위가 정해진 문제에서는 소형 모델이 비용·속도·안전성의 균형을 잘 맞춘다는 교훈을 보여준다.
- •의심 메시지를 진위 판정이 아닌 위험 등급·경고 신호·안전한 다음 단계로 안내하는 트리아지 도구
- •영어·우르두어(RTL 레이아웃) 지원, 텍스트와 스크린샷 모두 처리
- •Qwen3.6 27B(95점)에서 비용·콜드스타트 문제로 Qwen3.5 4B Q8(80점)을 최종 채택한 'Goldilocks' 선택
- •사고 모드 비활성화·가짜 URL 금지 등 출력 계약 수정 후 10개 평가 100점 달성
Building Pakistan Notice Helper: A Small AI Tool for a Very Local Safety Problem

- 1.파키스탄에서 의심 메시지를 클릭·송금 전에 분류해 위험도·경고신호·안전 조치를 알려주는 소형 AI 도구
- 2.27B 대형 대신 Qwen3.5 4B Q8을 llama.cpp·Modal로 배포, 품질 80점이지만 속도·비용 균형으로 채택
- 3.영어·우르두·로마자 우르두 혼용 대응, RTL 레이아웃과 우르두 답변 생성까지 현지화
- 4.10케이스 평가서 최종 10/10 통과, 사고 모드 비활성·URL 환각 금지 등 안전 출력 계약 강화
왜 중요한가?
가장 큰 모델이 아니라 명확히 범위를 좁힌 소형 모델이 속도·비용·안전의 최적 균형을 낸다는 점을 실제 보안 도구 사례로 입증해, 로컬·특화 문제에서 소형 모델의 실용성을 보여준다.
🏷️ 언급 프로젝트
특정 지역의 안전 문제를 해결하기 위한 소규모 AI 도구 개발 사례는 한국에서도 다양한 지역 사회 문제 해결에 AI를 맞춤형으로 적용할 수 있음을 보여줍니다. 이는 거대 AI 솔루션에 국한되지 않고 실제 생활 밀착형 AI 서비스 개발의 중요성을 시사합니다.
전체 내용이 궁금하다면?
원문을 직접 읽어보세요